色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI系統存在巨大缺陷 看圖識物比不上人類幼兒

羅欣 ? 來源:Quanta Magazine ? 作者:佚名 ? 2018-10-11 14:25 ? 次閱讀

人類,1分;AI,0分。

上個月,來自約克大學和多倫多大學的兩名研究人員合作發表了一篇論文:The Elephant in the Room,在學界引起巨大反響。通過實驗,他們發現現有人工智能系統還存在巨大缺陷,它們在“看圖識物”這類視覺任務上的表現甚至還比不上人類幼兒。

看罷這篇論文,加里·馬庫斯表達了對研究人員的贊許:“這是一篇聰明而重要的論文,它提醒我們所謂的‘深度學習’還沒有那么‘深刻’?!彼羌~約大學的認知心理學教授,也是優步(Uber)人工智能實驗室的負責人。

這項成果出現在計算機視覺領域,論文設計的任務很常規:訓練一個機器學習系統,讓它學會檢測和分類圖像中的對象。隨著自動駕駛汽車離真正落地越來越近,學界對機器的視覺處理技術一直寄予厚望。為了保障安全,計算機必須能從一幅街景圖中準確分辨哪個是鳥,哪個是自行車,即便達不到超人水平,它們至少也應該和被替代的人眼一樣好用。

但是,這個任務并不簡單,它突出了人類視覺的復雜性——以及構建模仿系統的高難度。在這項研究中,研究人員首先展示了一個能檢測、識別客廳場景下物品的計算機視覺系統,它的性能很不錯,能發現客廳里有一把椅子、一個人和書架上的書。之后,他們在同一幅圖中加入了一個異常物體——一只大象,這時系統卻“指鹿為馬”了,它開始把椅子稱為沙發,把大象稱為椅子,還忽視了之前能“看”到的其他物品。

對此,論文作者之一Amir Rosenfeld認為:“這些奇怪現象的出現,表明了目前的物體檢測系統是多么脆弱?!彼麄儧]能在論文中解釋為什么會出現這種脆弱,但提出了一個破有見地的猜想:

這和人類具備,而AI沒有的一項能力有關——人類在看圖識物時能理解圖像中是否存在令人困惑的東西,從而讓自己去看第二眼。

房間里的大象

人類視覺和機器視覺很不一樣。

當我們睜開雙眼時,眼球開始收集大量視覺信息,并把它們輸送給大腦快速處理,這時我們知道天是藍的,草是綠的,萬物在不斷生長。

相比之下,機器在生成“視覺”上更費力。它們看待事物的方式類似用盲文閱讀,其中圖像的像素就是“文字”,通過在像素上運行各類算法,機器最終能生成關于目標物體的越來越復雜的表達形式。運行這一復雜過程的系統是神經網絡,它由許多“層”構成。

輸入一幅圖像后,神經網絡會逐層提取圖像中的細節,比如各個像素的顏色和亮度,層數越深,它提取到的特征就越抽象。在過程結束時,它會對根據這些特征對其正在觀察的內容輸出最佳預測。

這個過程意味著相比人類,神經網絡能把握更多人眼難辨的細節。事實上,現在基于神經網絡的系統已經在許多視覺處理任務上超越人類,比如依據品種對狗進行分類。這些成功應用提高了人們對技術的期待,研究人員也開始著手研究,看計算機視覺系統是否能幫助汽車快速通過擁擠的街道。

但是,這項技術的成功也激勵了一批人去探索它的脆弱性,比如近幾年非常流行的“對抗樣本”。通過在原圖上做一些肉眼幾乎看不到的擾動,新圖像就能欺騙人工智能系統,讓它把“虎斑貓”分類成“鱷梨醬”,把3D打印的“烏龜”分類為“步槍”。這些研究不是杞人憂天,試想一下,如果有人惡意在道路標志上添加了這種擾動,致使自動駕駛汽車誤讀、漏讀路標,那車上乘客的生命安全該如何保障?

論文中的研究具有相同的精神。研究人員向機器展示了一個普通的客廳生活場景:一名男子正坐在破舊椅子邊緣,前傾身體,聚精會神地玩著游戲。如下圖所示,在“思考”片刻后,神經網絡正確檢測到了一系列物體:椅子、手提包、杯子、筆記本電腦、人、書籍、電視機、瓶子、時鐘。

但是,當他們在場景中引入了一些不協調的東西——一只大象后,神經網絡就被新加入的像素迷惑了。如下圖所示,在幾次試驗中,神經網絡開始把大象識別為椅子,把椅子識別為沙發,它也忽略了靠近大象一側的一排書。即便是離大象較遠的物體,系統也存在錯漏情況。

這個發現之所以令學界震驚,是因為實驗展示的是現在最基礎、最通行的物體檢測技術,雖然客廳內突然出現一頭大象并不現實,但公路上出現一只火雞確實可能的。現實道路上會發生很多意料之外的事,根據論文結果,我們有理由懷疑,自動駕駛汽車會因為路邊突然出現的一只火雞,而無法檢測到車前的行人。

正如羅恩菲爾德說的:“如果房間里真的有一頭大象,那你肯定會注意到它,但這個系統卻甚至沒能檢測到它的存在?!?/p>

萬事皆有因果

當人類看到意想不到的東西時,我們會先愣一下,然后才恍然大悟。這是一個具有真實認知意義的常見現象——它恰好揭示了為什么神經網絡無法處理“怪異”場景。

現如今,最先進的物體檢測神經網絡還是以“前饋”的方式工作,這意味著信息流經神經網絡時是單向的,從輸入細粒度像素開始,到檢測曲線、檢測形狀、檢測場景,再到最后輸出最佳預測。為了確保預測的準確性,它必須在整個過程中不斷收集“有用”信息,但這種單向性也意味著如果早期信息存在某種錯誤,那這些錯誤就會污染預測結果。

論文作者之一Tsotsos表示:“從神經網絡頂部開始,我們確實可以探索和結果相關的一切內容,但我們也有可能讓每個位置的每個特征都對每一個可能的輸出作出干擾?!?/p>

舉一個大家都理解的例子。假設圖中有一個圓和一個正方形,它們顏色各異,一個是紅的,一個是藍的。現在要求你在短時間內觀察圖片,并迅速答出正方形是什么顏色的。如果注意力夠集中,我們可能一瞥就能給出答案;如果有些頭昏腦脹,我們可能看了一眼后還會有點迷惑,然后自然而然地會去重新看一遍。而且當我們看第二遍時,注意力是高度集中在觀察正方形顏色上的。

簡而言之,人類的視覺系統如果沒有獲得想要的答案,它會回頭看看自己在哪里犯了錯。而這個過程可以用1990年《Behavioral and Brain Sciences》一篇論文中提到的概念——選擇性調整模型(ST)來解釋。如上圖所示,那篇論文假設視覺處理架構在結構上是金字塔形的,該網絡內的節點接收前饋和反饋連接。當刺激輸入視覺系統時,首先它會以前饋的方式激活與其連接的金字塔內的所有節點;之后,輸出的結果再以反饋的方式重新回到之前的節點中,激活倒置子金字塔。

這個模型的優勢在于人類能依靠前饋和反饋,選擇感興趣的時空區域,選擇與當前任務相關的事物并選擇最佳視點,同時,我們也能通過修剪不相關的內容來限制任務相關的搜索空間,只考慮之前有過提示信息的位置,用位置/特征信息抑制感受野中的干擾,更簡單、高效的獲取最佳結果。

而大多數神經網絡缺乏這種反饋能力,這也是科研人員一直無法有所突破的研究難點。現在使用前饋網絡的一個優點是容易訓練——只需讓輸入通過一個6層神經網絡,但是,如果我們希望未來機器也能“先愣一下,然后才恍然大悟”,它們就必須理解什么時候該回頭看看,什么時候該簡單前饋。

人腦可以在這些過程之間無縫切換,但神經網絡還需要一個新的理論框架才能做同樣的事情。

就在本月,谷歌上線了一個對抗樣本挑戰Unrestricted Adversarial Examples Challenge,他們向社區征集參賽鳥/自行車分類器,要求參賽的“對抗者”可以在輸入有擾動的圖像后,依然準確分類鳥和自行車;而“攻擊者”的目標是生成一張包含鳥的圖像,讓“對抗者”分類器把它分類成自行車。這離構建選擇性調整模型還有不小距離,但這是通向解決問題的第一步——也是不可或缺的一步。

本文來源:Quanta Magazine

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 神經網絡
    +關注

    關注

    42

    文章

    4771

    瀏覽量

    100720
  • AI
    AI
    +關注

    關注

    87

    文章

    30763

    瀏覽量

    268908
  • 機器學習
    +關注

    關注

    66

    文章

    8408

    瀏覽量

    132574
收藏 人收藏

    評論

    相關推薦

    基于缺陷生成路徑的AI質檢新范式

    在全球化的制造業格局中,產品質量問題一直是懸在企業頭頂的一把達摩克利斯之劍。特別是近年來,隨著消費者對產品質量的要求越來越高,任何微小的缺陷都可能引發大規模的產品召回,造成巨大的經濟損失和社會影響
    的頭像 發表于 11-15 01:05 ?256次閱讀
    基于<b class='flag-5'>缺陷</b>生成路徑的<b class='flag-5'>AI</b>質檢新范式

    莫拉維克悖論與多模態AI:邁向機器人認知的新時代

    莫拉維克悖論揭示了人工智能系統在處理高級推理與基本感知運動技能上的巨大差異。對于AI而言,復雜的邏輯任務似乎比人類習以為常的感知運動技能更容易實現。這一悖論凸顯了當前
    的頭像 發表于 10-26 15:00 ?591次閱讀

    60G嬰幼兒呼吸心跳檢測專用雷達模塊 感應距離0.8-1.5米

    每年因呼吸道疾病死亡的新生兒高達200萬。主要原因是嬰幼兒的呼吸系統和免疫系統尚未沒有發育完全,抵抗力能力差,極容易感染呼吸道疾病。除此以外,嬰幼兒在睡眠時稍不注意,便容易發生俯臥、墜
    的頭像 發表于 09-28 08:09 ?321次閱讀
    60G嬰<b class='flag-5'>幼兒</b>呼吸心跳檢測專用雷達模塊 感應距離0.8-1.5米

    幼兒園分區廣播系統

    一、 項目背景 某幼兒園,有一棟教學樓,每層長約50米,每層有3間教室。樓前有一個200多平的小操場。具體需求如下: 1、定時播放 根據學校作息時間表編制廣播播放時間表,定時定點自動播放音樂鈴聲
    的頭像 發表于 09-04 09:41 ?215次閱讀
    <b class='flag-5'>幼兒</b>園分區廣播<b class='flag-5'>系統</b>

    使用TI Edge AI Studio和AM62A進行基于視覺AI缺陷檢測

    電子發燒友網站提供《使用TI Edge AI Studio和AM62A進行基于視覺AI缺陷檢測.pdf》資料免費下載
    發表于 09-03 10:38 ?0次下載
    使用TI Edge <b class='flag-5'>AI</b> Studio和AM62A進行基于視覺<b class='flag-5'>AI</b>的<b class='flag-5'>缺陷</b>檢測

    基于鴻蒙Next模擬掃圖的一個過程

    一、功能介紹(基礎) 基于鴻蒙Next模擬掃圖的一個過程,掃描到圖片,提示出相關的圖片內容,是一個什么東西。 二、使用場景(大類) 支付、社交、信息獲取、在線調查、教育學習等等。 三、實現步驟
    發表于 08-21 15:04

    平衡創新與倫理:AI時代的隱私保護和算法公平

    機制,還包括了數據的來源、處理方式以及使用目的的明確披露。這樣不僅有助于監管機構進行審查,也讓普通用戶能夠理解AI系統的決策依據,從而減少因“黑箱操作”帶來的不信任和誤解。例如,在AI輔助醫療診斷中
    發表于 07-16 15:07

    基于AI深度學習的缺陷檢測系統

    在工業生產中,缺陷檢測是確保產品質量的關鍵環節。傳統的人工檢測方法不僅效率低下,且易受人為因素影響,導致誤檢和漏檢問題頻發。隨著人工智能技術的飛速發展,特別是深度學習技術的崛起,基于AI深度學習的缺陷檢測
    的頭像 發表于 07-08 10:30 ?1376次閱讀

    基于一種AI輔助可穿戴微流控比色傳感器系統

    存在的挑戰限制了這項技術的實際應用。 據麥姆斯咨詢報道,為了克服這些挑戰,來自中國石油大學(華東)的研究人員開發了一種人工智能(AI)輔助的可穿戴微流控比色傳感器系統AI-WMCS)
    的頭像 發表于 06-29 10:57 ?1.1w次閱讀
    基于一種<b class='flag-5'>AI</b>輔助可穿戴微流控比色傳感器<b class='flag-5'>系統</b>

    智謀紀 AI+Multi LED 打開人類健康新寶藏

    技術。 智謀紀創始人&CEO朱東亮先生受邀出席論壇,帶來題為《AI+ Multi LED,打開人類健康新寶藏》的專題演講。 演講精彩瞬間回顧:AI+ Multi LED,智謀紀AI照明
    的頭像 發表于 06-17 12:23 ?325次閱讀
    智謀紀 <b class='flag-5'>AI</b>+Multi LED 打開<b class='flag-5'>人類</b>健康新寶藏

    請問STM32硬件I2C存在什么缺陷?

    我看野火的庫函數開發手冊里面感覺用I2C用的挺順的呀 為什么張洋卻說STM32的I2C有缺陷 不推薦用 請問下 各位在使用I2C的時候碰到過什么情況嗎 我怎么都沒感覺到I2C的缺陷 能否說下這個缺陷是什么
    發表于 05-16 07:46

    幼兒園校園廣播系統(IP網絡廣播)方案

    幼兒園校園廣播系統(IP網絡廣播),采用“技術先進、架構科學、經濟實用、利于拓展、方便維護”的設計理念,設計為IP數字網絡傳輸架構,通過TCP/IP協議在局域網中傳輸音頻和控制信號,信號以數字方式
    的頭像 發表于 04-11 15:51 ?823次閱讀
    <b class='flag-5'>幼兒</b>園校園廣播<b class='flag-5'>系統</b>(IP網絡廣播)方案

    NVIDIA在加速因智能AI大模型落地應用方面的重要作用介紹

    本案例介紹了 NVIDIA 在加速因智能 AI 大模型落地應用方面的重要作用。生成式大模型已廣泛應用于各領域,通過學習人類思維方式,能快速挖掘海量內容,滿足不同需求。
    的頭像 發表于 03-29 15:28 ?622次閱讀

    富士通發布最新的人工智能(AI)戰略,聚焦深化人類AI之間的協作

    富士通株式會社(以下簡稱“富士通”)發布了最新的集團人工智能(AI)戰略,聚焦深化人類AI之間的協作,并提出了將AI作為“可信賴的助手”這一愿景,為提升
    的頭像 發表于 02-21 17:09 ?821次閱讀
    富士通發布最新的人工智能(<b class='flag-5'>AI</b>)戰略,聚焦深化<b class='flag-5'>人類</b>與<b class='flag-5'>AI</b>之間的協作

    奧特曼稱相信AI無法替代人類

    奧特曼稱相信AI無法替代人類 AI對于人類的威脅一直有很多討論,各有不同觀點,很多人對于科幻電影中的場景AI機器人傷害
    的頭像 發表于 01-19 11:43 ?873次閱讀
    主站蜘蛛池模板: 1300部真实小Y女视频合集| 欧美日韩精品一区二区三区四区 | 亚洲国产日韩欧美在线a乱码| 日本xxx在线观看免费播放| 男人J桶女人P视频无遮挡网站| 久久精品午夜一区二区福利| 红杏俱乐部| 精品高潮呻吟99AV无码| 好妞操| 狠狠色香婷婷久久亚洲精品| 国产欧美精品一区二区三区-老狼| 边摸边吃奶玩乳尖视频| yellow在线观看免费观看大全| 99免费在线观看| FREE性丰满HD毛多多| www精品一区二区三区四区| YY6080A旧里番在线观看| 抽插性奴中出乳精内射| 福利片午夜| 国产精品免费久久久久影院| 国产精品禁18久久久夂久| 国产精品一区二区三区四区五区| 国产精品看高国产精品不卡| 国产欧美二区综合| 久久精品中文騷妇女内射| 夜色55夜色66亚洲精品网站| 国产精品日本不卡一区二区| 一本道中文无码亚洲| 国产成人免费不卡在线观看| 俄罗斯女人Z0ZOZO| 国产成人精品s8p视频| 国产精品线路一线路二| 国内视频在线精品一区| 精品视频网站| 狼人无码伊人AV啪啪| 女教师公车痴汉在线播放| 日韩 国产 欧美视频二区| 我们中文在线观看免费完整版 | 国产99视频在线观看| 国产日韩欧美高清免费视频| 精品96在线观看影院|