色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

DeepMind提出了一種讓神經網絡進行抽象推理的新方法

DPVg_AI_era ? 來源:未知 ? 作者:李倩 ? 2018-07-13 10:03 ? 次閱讀

DeepMind提出了一種讓神經網絡進行抽象推理的新方法,類似人類的IQ測試。結果發現經典模型如ResNet得分極低,數據稍有改動就變“白癡”,而他們關注推理的架構得分高很多,如果能給出結果的符號解釋,模型的預測性能和泛化性能還會顯著提高。

在許多長期存在的機器學習問題中,基于神經網絡的模型持續取得了令人振奮的結果,但是,開發它們推理抽象概念的能力被證明是很困難的。已有的研究解決了通用學習系統的重要特性,基于此,DeepMind的最新研究提出了一種在學習機器中測量抽象推理的方法,并解釋了關于泛化(generalisation)本質的一些重要見解。

要理解為什么抽象推理對于一般智力(general intelligence)至關重要,可以思考阿基米德的名言“尤里卡!”(希臘語Eureka,意即“我發現了!”):他注意到物體的體積相當于物體溢出的水的體積,他在概念層面理解了“體積”,并因此推理出如何計算不規則物體的體積。

我們希望AI具有類似的能力。雖然目前的AI系統可以在復雜的戰略游戲中擊敗世界冠軍,但它們經常對其他看似簡單的任務束手無策,特別是當需要在新環境中發現并重新應用抽象概念時。例如,如果一個AI專門訓練來計算三角形的數量,那么即使是最好的AI系統也無法計算方塊或任何其他先前未遇到過的對象。

因此,要構建更好、更智能的系統,理解神經網絡目前處理抽象概念的方式以及它們需要改進的地方,這非常重要。為此,我們從人類智商測試(IQ測試)中測量抽象推理的方法中獲得了靈感。

人類IQ測試中的推理

標準的人類IQ測試通常要求測試者運用他們從日常經驗中學到的原理來解釋感知上簡單的視覺場景。例如,人類測試者可能已經通過觀察植物生長或建筑物的搭建,在數學課上學習加法,或跟蹤利息累計的銀行余額等了解了“進展”這個概念(即事物某些屬性可能增加的概念)。然后,他們可以在IQ題中應用這個概念來推斷隨著序列增加,形狀的數量、大小,甚至顏色的深淺等屬性。

IQ測試題1:右下角應該選哪個?

答案是A,為什么?

因為在每一排中,方框里黑點的數目有一種“漸增”的關系,因此右下角黑點的數量應該是4。

IQ測試題2:右下角應該選哪個?

答案是A,為什么?

首先,每一列的三角形狀的數目分別是1個、5個和7個,因此,右下角三角形狀的數量應該是1,因此我們排除了B、F、G這三個答案,剩下A、C、D、E、H。

這道題中還需要觀察“線”的關系,我們觀察到每一排最右方的線是AND的關系,即同時出現在左邊兩個格的線才會出現在第三個格。

因此,我們得到了右下角格的線,進一步排除C、D、E、H,正確答案就是A。

IQ測試題3:右下角應該選哪個?

答案仍然是A,為什么?

首先,每一列的形狀的數量有一種“漸增”的關系,因此右下角形狀的數量應該是5個,排除D、G。

跟前一題類似,線同樣是AND的關系,我們得到右下角的線,符合的只有A、D、E、H,D已經在前一步排除,因此剩下A、E、H三個選項。

再看形狀顏色,每一列都分別有淺灰、深灰和黑色,因此右下角應該是黑色,得到正確答案A。

我們還沒有辦法讓機器學習智能體接觸到類似的“日常體驗”,這意味著我們無法輕易地衡量它們將知識從現實世界遷移到視覺推理測試的能力。盡管如此,我們仍然可以創建一個實驗設置,充分利用人類視覺推理測試。我們不是研究從日常生活到視覺推理問題的知識遷移(人類的IQ測試是如此),而是研究從一組受控的視覺推理問題到另一組視覺推理問題的知識遷移。

為實現這一目標,我們構建了一個用于創建矩陣問題的生成器,它涉及一組抽象因素,包括“進展”(progression)之類的關系以及“顏色”、“大小”之類的屬性。雖然問題生成器使用了少量的潛在因素,但它仍然可以創建大量獨特的問題。

接下來,我們限制了生成器可用的因素或組合,以便為訓練和測試模型創建不同的問題集,從而測量我們的模型能夠多大程度上推廣到已配置的測試集。例如,我們創建了一組測試題的訓練集,其中只有在應用于線條顏色時才會遇到“漸進關系”,而在測試集中應用于形狀大小時會遇到“漸進關系”。如果模型在該測試集上表現良好,它將為推斷和應用“漸進關系”這個抽象概念的能力提供證據,即使它以前從未遇見過“漸進關系”。

抽象推理的證據

在機器學習評估中應用的典型的泛化機制中,訓練和測試數據來自相同的底層分布,我們測試的所有網絡都表現出良好的泛化誤差( generalisation error),其中一些網絡實現了令人印象深刻的絕對性能。表現最好的網絡顯式地計算了不同圖像方塊之間的關系,并且并行地評估每個潛在答案的適用性。我們稱這種架構為Wild Relation Network(WReN)。

WReN模型

CNN會獨立處理每個內容panel并且一個單獨的回答會選擇一個panel來產生9個矢量embedding。然后將這組embedding傳遞給RN(其輸出是單個sigmoid單元),為相關答案選擇panel的“得分”進行編程。 通過該網絡進行8次這樣的傳遞(為簡便起見,我們僅描繪2次),每次答案選擇一次,就會通過softmax函數得分以確定模型的預測答案。

當需要使用屬性值在先前看到的屬性值之間“內推”(interpolated),以及在不熟悉的組合中應用已知的抽象關系時,模型的泛化效果非常好。但是,同樣的網絡在“外推”(extrapolation)機制中表現糟糕得多,在這種情況下,測試集中的屬性值與訓練期間的屬性值不在同一范圍內。對于在訓練中包含深色物體,但測試中包含淺色物體的謎題中就會出現這種情況。當模型被訓練來將以前見到的關系(比如形狀的數量)應用到一個新的屬性(比如形狀的大小)時,泛化性能也會更差。

實驗結果

PGM數據集

我們將數據集稱為程序生成矩陣(Procedurally Generated Matrices,PGM)數據集。為了生成PGM,受Carpenter,Wang&Su等人的啟發,通過從以下原始集中隨機抽樣來完成的:

關系類型(R,元素是r):包括progression,XOR, OR, AND, consistent union;

目標類型(O,元素是o):包括shape,line;

屬性類型(A,元素是a):包括,type,color,position,number

PGM問題—模型比較

我們首先比較了中性分裂(訓練/測試)的所有模型,這與傳統的監督學習制度最為接近。 也許令人驚訝的是,雖然它們是強大的圖像處理器的方法,CNN模型幾乎完全失敗了PGM推理問題(表1),性能略微優于我們的基線 - context-blind的ResNet模型,該模型對內容視而不見并僅在八個候選答案受過訓練。 LSTM按順序考慮各個候選小組的能力,相對于CNN產生了小的改進。 性能最佳的ResNet變體是ResNet-50,其性能優于LSTM。 ResNet-50具有比我們的簡單CNN模型更多的卷積層,因此具有更強的推理其輸入特征的能力。

所有模型在中性分裂(左圖)上的的性能,以及根據β= 0的泛化誤差排序的泛化機制WReN模型(右圖)的泛化性能。

性能最佳的模型是WReN模型。 這種強大的性能可能部分歸因于Relation Network模塊,它是為了推理對象之間的關系而明確設計的,部分是由于評分結構。 請注意,評分結構不足以解釋改進的性能,因為WReN模型基本上優于最佳Wild-ResNet模型,該模型也具有評分結構。

不同問題類型的表現

涉及單個[r,o,a]三元組的問題比涉及多個三元組的問題更容易。 有趣的是,有三個三元組的PGM比四個三元組更難。 雖然有四個三元組的問題顯得更為復雜,但是還有更多好的方法可以解決問題。在涉及單個三元組的PGM中,OR(64.7%)被證明是一種比XOR更容易的關系(53.2%)。具有結構涉及線(78.3%)的PGM比涉及形狀的那些(46.2%)更容易,涉及形狀數(80.1%)比那些涉及形狀大小(26.4%)。這表明模型難以辨別細粒度的大小差異,而不是更顯著的變化,如線條的缺少或出現,或形狀的數量。

干擾物的影響

到目前為止報告的結果是包含干擾物屬性值的問題(見圖4)。 當這些干擾物被移除時,WReN模型的表現明顯更好(驗證組的干擾物為79.3%,測試組的干擾物為78.3%,并與干擾者為63.0%和62.6%時的情況做比較)。

離心(distraction)的影響。在兩個PGM中,底層結構S 是[形狀,顏色,連續單元],但是(b)包括形狀數、形狀類型,線顏色和線型的離心。

輔助訓練的效果

然后,我們通過使用符號元目標訓練我們的模型來探索輔助訓練對抽象推理和概括的影響。在中立狀態下,我們發現輔助訓練使測試精度提高了13.9%。重要的是,模型捕獲數據的整體能力的改進也適用于其他泛化機制。在將模型的三元組重新組合成新組合的情況下,差異最為明顯。因此,代表抽象語義原則的壓力使得它們可以簡單地解碼成離散的符號解釋,似乎提高了模型有效地組成其知識的能力。這一發現與先前關于離散通道(discrete channel)對知識表示的優勢的觀察結果一致。

輔助訓練分析

除了提高性能之外,使用元標記(meta-targets)進行培訓還可以提供一種方法來衡量模型在給定PGM的情況下存在哪些形狀,屬性和關系,從而深入了解模型的策略。 使用這些預測,WReN模型在其元目標預測正確時達到了87.4%的測試準確率,而在預測不正確時僅達到34.8%。

元目標預測可以分解為對象,屬性和關系類型的預測。 我們利用這些細粒度預測來詢問WReN模型的準確性如何隨其對每個屬性的預測而獨立變化。當形狀元目標預測正確(79.5%)時,相比預測不正確(78.2%)時模型的精度有所提高;同樣,當屬性元目標預測正確(49%)時,相比預測不正確(62.2%)時模型的精度有所提高。然而,對于關系屬性,正確和不正確的元目標預測之間的差異很大(86.8%對32.1%)。 這個結果表明正確預測關系屬性對任務成功至關重要。

最后,當模型被訓練于不僅預測正確的答案,而且預測答案的“原因”(即考慮解決這個難題的特定關系和屬性)時,我們觀察到了更好的泛化性能。有趣的是,在neutral split中,模型的準確性與它推斷矩陣背后的關系的能力密切相關:當解釋正確時,模型在87%的時候能選擇到正確的答案;但當它的解釋錯誤時,準確性下降到只有32%。這表明,當模型正確地推斷出任務背后的抽象概念時,它們能夠獲得更好的性能。

結論

最近有一些研究關注基于神經網絡的解決機器學習問題的方法的優點和缺點,通常基于它們的泛化能力。我們的研究結果表明,尋找關于泛化的普遍結論可能是無益的:我們測試的神經網絡在某些泛化方案中表現良好,而在其他時候表現很差。它們是否成功取決于一系列因素,包括所用模型的架構,以及模型是否被訓練來為其答案選擇提供可解釋的“理由”。在幾乎所有情況下,當需要推斷超出其經驗的輸入或處理完全陌生的屬性時,系統的表現很差;這是一個關鍵且極為重要的研究領域,未來的工作可以集中于這個焦點。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4771

    瀏覽量

    100719
  • 機器學習
    +關注

    關注

    66

    文章

    8406

    瀏覽量

    132567
  • DeepMind
    +關注

    關注

    0

    文章

    130

    瀏覽量

    10848

原文標題:ResNet可能是白癡?DeepMind給神經網絡們集體測智商

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    一種標定陀螺儀的新方法

    一種標定陀螺儀的新方法
    發表于 08-17 12:17

    人工神經網絡實現方法有哪些?

    人工神經網絡(Artificial Neural Network,ANN)是一種類似生物神經網絡的信息處理結構,它的提出是為了解決些非線性
    發表于 08-01 08:06

    一種基于綜合幾何特征和概率神經網絡的HGU軸軌識別方法

    摘要故障診斷是保證水輪發電機組安全運行的重要環節。軸心軌跡辨識是HGU故障診斷的一種有效方法提出了一種基于綜合幾何特征和概率神經網絡(CG
    發表于 09-15 08:18

    圖像預處理和改進神經網絡推理的簡要介紹

    為提升識別準確率,采用改進神經網絡,通過Mnist數據集進行訓練。整體處理過程分為兩步:圖像預處理和改進神經網絡推理。圖像預處理主要根據圖像的特征,將數據處理成規范的格式,而改進
    發表于 12-23 08:07

    一種基于高效采樣算法的時序圖神經網絡系統介紹

    成為了非常重要的問題。 基于以上問題,本文提出了一種基于高效采樣算法的時序圖神經網絡系統 。首先我們介紹用于時序圖神經網絡采樣的高效采樣方法
    發表于 09-28 10:34

    基于神經網絡的傳感器故障監測與診斷方法研究

    提出了一種基于神經網絡的傳感器故障監測與診斷的新方法. 該方法先用BP 網絡的預測輸出和傳感器實
    發表于 06-23 08:57 ?27次下載

    基于神經網絡的傳感器故障監測與診斷方法研究

    提出了一種基于神經網絡的傳感器故障監測與診斷的新方法. 該方法先用BP 網絡的預測輸出和傳感器實
    發表于 07-04 11:14 ?18次下載

    傳感器故障檢測的Powell神經網絡方法

    大型熱力控制系統必須能夠檢測傳感器故障,并采取相應的措施,保證控制過程的順利進行提出了一種基于Powell 神經網絡的故障檢測新方法,為系
    發表于 07-07 09:21 ?6次下載

    神經網絡在電磁場數值問題中的應用

    針對目前電磁場數值處理中計算繁雜慢速和耗費資源過多的問題, 本文提出了一種基于神經網絡小波理論進行計算的新方法。文中著重介紹了利用小波變換
    發表于 05-18 16:58 ?24次下載
    <b class='flag-5'>神經網絡</b>在電磁場數值問題中的應用

    基于GA優化T_S模糊神經網絡的小電流接地故障選線新方法_王磊

    基于GA優化T_S模糊神經網絡的小電流接地故障選線新方法_王磊
    發表于 12-31 14:45 ?0次下載

    DENSER是一種用進化算法自動設計人工神經網絡(ANNs)的新方法

    深度進化網絡結構表示(DENSER)是一種用進化算法自動設計人工神經網絡(ANNs)的新方法。該算法不僅能搜索最佳網絡拓撲結構,還能調整超參
    的頭像 發表于 01-10 15:49 ?6714次閱讀
    DENSER是<b class='flag-5'>一種</b>用進化算法自動設計人工<b class='flag-5'>神經網絡</b>(ANNs)的<b class='flag-5'>新方法</b>

    測量神經網絡抽象推理能力

    神經網絡是否可以學習抽象推理,還是僅僅淺顯地學習統計數據學習,是最近學術界辯論的主題。
    的頭像 發表于 07-13 09:37 ?5180次閱讀
    測量<b class='flag-5'>神經網絡</b>的<b class='flag-5'>抽象</b><b class='flag-5'>推理</b>能力

    一種基于深度神經網絡的迭代6D姿態匹配的新方法

    在本文工作中,作者提出了DeepIM——一種基于深度神經網絡的迭代6D姿態匹配的新方法。給定測試圖像中目標的初始6D姿態估計,DeepIM能夠給出相對SE(3)變換符合目標渲染視圖與觀
    的頭像 發表于 09-28 10:23 ?3820次閱讀

    一種基于MCU的神經網絡模型靈活更新方案之先行篇

    一種基于MCU的神經網絡模型靈活更新方案之先行篇
    的頭像 發表于 10-17 17:48 ?577次閱讀

    一種產生激光脈沖的新方法

    英國和韓國的科學家提出了一種產生激光脈沖的新方法,其功率是現有激光脈沖的1000多倍。
    的頭像 發表于 11-20 16:56 ?575次閱讀
    <b class='flag-5'>一種</b>產生激光脈沖的<b class='flag-5'>新方法</b>
    主站蜘蛛池模板: 俄罗斯另类Z0Z0ZOZO| 欧美人xxxxx| 亚洲人成电影网站在线观看| 国产成人精品免费视频下载| 欧美z000z猪| 97在线视频网站| 麻豆AV久久无码精品九九| 亚洲综合国产在不卡在线| 含羞草影院AE在线观看| 午夜无码国产理论在线| 国产99RE在线观看69热| 日韩欧无码一区二区三区免费不卡 | 理论片午午伦夜理片I| 亚洲天码中字| 黄A无码片内射无码视频| 亚洲AV无码乱码国产麻豆P| 国产精品夜夜春夜夜爽久久小| 入禽太深在线观看免费高清| 操老太太的逼| 日韩精品无码免费专区| 草比比过程图| 人妻仑乱少妇88MAV| 超碰国产视频免费播放| 日本黄 色大片全| 大肥婆丰满大肥奶bbw肥| 日本无码专区亚洲麻豆| 村上里沙快播| 色偷偷综合网| 国产精品私人玩物在线观看| 午夜男人免费福利视频| 国产亚洲精品AAAAAAA片| 亚洲AV怡红院影院怡春院| 国内精品偷拍在线观看| 亚洲一区精品在线| 久久伊人网站| 99精品在线| 日本妈妈在线观看中文字幕| 国产 交换 丝雨 巅峰| 午夜成a人片在线观看| 黑人操白逼| 在线亚洲免费|