色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

讓AI獲得更多信任!麻省理工研究實現人工智能決策可解化

5RJg_mcuworld ? 來源:YXQ ? 2019-08-06 15:17 ? 次閱讀

一直以來,AI 進行圖像識別都是一個難以清楚解釋的過程,而如今麻省理工學院林肯實驗室情報和決策技術小組(Intelligence and Decision Technologies Group)的一項研究試圖讓 AI 的決策過程更加可被解釋。

這個小組在今年夏天的 CVPR 上發表了一篇論文《設計透明:彌合視覺推理的表現與可解釋性》(Transparency by Design: Closing the Gap Between Performance andInterpretability in Visual Reasoning),論文中提出的系統可以執行與人類一樣的推理步驟來進行與圖像識別相關的任務,同時能以圖像形式呈現其決策的過程。

了解神經網絡如何做出決策一直是 AI 研究人員長期面對的問題。神經網絡是以人的大腦為參照開發的 AI 系統,旨在復制人類學習的方式。簡單的神經網絡有一個輸入層、一個輸出層,兩者之間還有一個將輸入轉換為正確的輸出結果的層。然而一些深度神經網絡非常復雜,無法遵循這種簡單的轉換過程。所以逐漸地,神經網絡的設置層越來越多,決策過程成為了一個“黑箱”問題,內部流程非常不透明,以至于該網絡的開發者可能都無法完全掌握。

與此同時,了解 AI 的決策過程非常重要。例如,對用在自動駕駛汽車中的神經網絡來說,行人和路牌之間存在什么樣的差異?神經網絡的哪個決策階段能夠發現兩者的區別?只有了解這一過程能夠更好地糾正神經網絡的一些錯誤。但目前最先進的神經網絡也缺乏有效的機制能讓人理解其推理過程。

對此,麻省理工學院林肯實驗室情報和決策技術小組開發了一個神經網絡,可以執行類似人類的推理步驟來回答與圖像相關的問題。該模型被命名為 Transparency by Design Network(簡稱:TbD-net),

同時,TbD-net 在解決問題時能夠用熱力圖來展示其進行視覺分析的過程,即當系統識別圖像時,會對識別的部分進行突出顯示,這達到了將決策過程可視化的效果。這種將決策過程可視化的形式讓研究人員能夠了解這一過程并對其進行分析。

對于 TbD-net 的工作流程,該網絡內有眾多模塊組成的集合,這是該系統中的一個關鍵部分,這些模塊是專門用于執行特定子任務的小型神經網絡。在 TbD-net 執行圖像識別任務時,它會將問題分解為子任務并分配適當的模塊,這些子任務會被分別完成之后再進行組合。

這些模塊就像流水線上的工人一樣,每個模塊基于前一個模塊的識別結果進行工作,一起生成了最終的結論。TbD-net 利用的 AI 技術能像理解人類語言一樣,將句子分解為多個子任務。而 TbD-net 能夠在處理圖像時進行類似的處理過程,分不同階段對圖像進行識別。

對于 TbD-net,如果你問它“那個巨大的金屬立方體是什么顏色?”那么第一個模塊會框定一個大大的物體;第二模塊會識別哪些對象是金屬;第三模塊會在前面得出的結果中找出標準立方體;最后,負責顏色識別的模塊會最終得出對象的顏色。

TbD-net 研究人員之一的Majumdar 說:“將一系列復雜的推理分解為一系列較小的問題,每個子問題都可以分別解決再進行組合,是一種強大而直觀的推理手段。”

研究人員讓 TbD-ne t 經過 7 萬圖片和 70 萬個問題的訓練后,再用 1.5 萬張圖片和 15 萬個問題對其進行測試,結果顯示其準確度達到 98.7%,優于其他基于神經模塊網絡的系統。

更重要的是,研究人員能夠在這個結果的基礎之上繼續優化,通過查看模型的決策過程,他們可以找到問題的所在并進行有針對性的優化,最終準確度達到了 99.1%。

除了對神經網絡進行優化,這篇論文的作者同時認為,了解神經網絡的推理過程可能對獲得用戶信任大有幫助。用戶要能夠了解這一推理過程,才能夠理解模型為何會作出錯誤的預測。

過去的幾個月中,許多公司、政府機構和獨立研究人員試圖解決人工智能中所謂的“黑箱”問題,都取得了不同程度的效果。

2017 年,美國國防高級研究計劃局(DARPA) 曾推出 DARPA XAI 項目,旨在研究“玻璃箱”模型,在不犧牲性能的情況下讓AI 推理過程更加透明。今年 8 月,IBM 的科學家們提出了一份 AI 的“情況說明書”,提供有關模型漏洞、偏見、對抗性攻擊易感性和其他特征的信息。微軟、埃森哲和 Facebook 也開發了自動化工具來檢測和減少 AI 算法中的偏差。

IBM 研究院的 AI 基金會負責人 Aleksandra Mojsilovic 在今年 8 月時曾說道:“AI 系統具有改變我們生活和工作方式的巨大潛力,但透明度問題必須得到解決,這樣才能讓 AI 得到更多的信任,”

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 麻省理工
    +關注

    關注

    0

    文章

    39

    瀏覽量

    12293
  • AI
    AI
    +關注

    關注

    87

    文章

    30728

    瀏覽量

    268892

原文標題:AI“黑箱”難題獲新突破,MIT研究人員實現AI決策可視化

文章出處:【微信號:mcuworld,微信公眾號:嵌入式資訊精選】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    嵌入式和人工智能究竟是什么關系?

    嵌入式和人工智能究竟是什么關系? 嵌入式系統是一種特殊的系統,它通常被嵌入到其他設備或機器中,以實現特定功能。嵌入式系統具有非常強的適應性和靈活性,能夠根據用戶需求進行定制設計。它廣泛應用于各種
    發表于 11-14 16:39

    AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感

    、優化等方面的應用有了更清晰的認識。特別是書中提到的基于大數據和機器學習的能源管理系統,通過實時監測和分析能源數據,實現了能源的高效利用和智能化管理。 其次,第6章通過多個案例展示了人工智能在能源科學中
    發表于 10-14 09:27

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    很幸運社區給我一個閱讀此書的機會,感謝平臺。 《AI for Science:人工智能驅動科學創新》第4章關于AI與生命科學的部分,為我們揭示了人工智能技術在生命科學領域中的廣泛應用和
    發表于 10-14 09:21

    AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得

    人工智能在科學研究中的核心技術,包括機器學習、深度學習、神經網絡等。這些技術構成了AI for Science的基石,使得AI能夠處理和分析復雜的數據集,從而發現隱藏在數據中的模式和規
    發表于 10-14 09:16

    AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    。 5. 展望未來 最后,第一章我對人工智能驅動的科學創新未來充滿了期待。隨著技術的不斷進步和應用場景的拓展,AI將在更多領域發揮關鍵作用,從基礎科學到應用科學,從理論
    發表于 10-14 09:12

    risc-v在人工智能圖像處理應用前景分析

    其在人工智能圖像處理領域的應用提供更多支持。 標準和規范推進 :為了降低RISC-V的碎片風險并促進其在全球范圍內的廣泛應用,標準
    發表于 09-28 11:00

    人工智能ai 數電 模電 模擬集成電路原理 電路分析

    人工智能ai 數電 模電 模擬集成電路原理 電路分析 想問下哪些比較容易學 不過好像都是要學的
    發表于 09-26 15:24

    人工智能ai4s試讀申請

    目前人工智能在繪畫對話等大模型領域應用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個需要研究的課題,本書對ai4s基本
    發表于 09-09 15:36

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新

    大力發展AI for Science的原因。 第2章從科學研究底層的理論模式與主要困境,以及人工智能三要素(數據、算法、算力)出發,對AI for Science的技術支撐進行解讀。
    發表于 09-09 13:54

    報名開啟!深圳(國際)通用人工智能大會將啟幕,國內外大咖齊聚話AI

    8月28日至30日,2024深圳(國際)通用人工智能大會暨深圳(國際)通用人工智能產業博覽會將在深圳國際會展中心(寶安)舉辦。大會以“魅力AI·無限未來”為主題,致力于打造全球通用人工智能
    發表于 08-22 15:00

    FPGA在人工智能中的應用有哪些?

    定制的硬件設計,提高了硬件的靈活性和適應性。 綜上所述,FPGA在人工智能領域的應用前景廣闊,不僅可以用于深度學習的加速和云計算的加速,還可以針對特定應用場景進行定制計算,為人工智能
    發表于 07-29 17:05

    麻省理工科技評論》洞察與思特沃克發布最新報告

    人工智能,導致大量商業價值被忽視的問題。 這份報告主題為"以戰略目標為導向,實現數據現代",由《麻省理工科技評論》洞察與思特沃克(Thoughtworks)聯合制作,參考了對全球35
    的頭像 發表于 05-29 17:31 ?316次閱讀

    嵌入式人工智能的就業方向有哪些?

    于工業、農業、醫療、城市建設、金融、航天軍工等多個領域。在新時代發展背景下,嵌入式人工智能已是大勢所趨,成為當前最熱門的AI商業途徑之一。
    發表于 02-26 10:17

    麻省理工學院開發出新的RFID標簽防篡改技術

    的解決方案。 麻省理工學院的研究人員推出了一項革命性的發明——新型防篡改ID標簽。它不僅尺寸小巧、成本低廉,而且具備強大的防偽功能,有望徹底改變商品真偽鑒定的格局。 研究人員巧妙地利用太赫茲波的特性,設計出了這種新型防篡改
    的頭像 發表于 02-22 11:30 ?615次閱讀
    <b class='flag-5'>麻省理工</b>學院開發出新的RFID標簽防篡改技術

    AI算法的本質是模擬人類智能機器實現智能化

    視覺等領域。 ? AI 算法的核心是實現智能化決策和行為 ? AI算法的本質在于模擬人類智能
    的頭像 發表于 02-07 00:07 ?5762次閱讀
    主站蜘蛛池模板: 人妻夜夜爽99麻豆AV| 亚洲免费国产在线日韩| 一个人的视频全免费在线观看www 一个人的免费完整在线观看HD | 俄罗斯女人Z0Z0极品| 久久久久婷婷国产综合青草| 四虎4hu亚洲精品| 99热成人精品国产免男男| 精品无码三级在线观看视频| 色网址在线观看| chinese极品嫩模videos| 久久精品中文闷骚内射| 亚洲 日韩 在线 国产 精品| 大香伊人久久| 免费人成在线观看网站视频| 亚洲一区在线视频观看| 国产精品色欲AV亚洲三区软件| FREEHDXXXX学生妹| 九色PORNY丨视频入口| 无码国产成人777爽死| z0000性欧美| 女生扒开尿口| 4388成人| 久久久黄色大片| 亚洲三区视频| 国产线精品视频在线观看| 十二月综合缴缴情| 成人a视频在线观看| 女人一级毛片免费观看| 2022一本久道久久综合狂躁| 久久电影精品| 亚洲午夜精品A片久久WWW软件 | 暖暖的视频完整视频免费韩国 | 办公室激情在线观看| 男生插女生下体| 2022一本久道久久综合狂躁| 久久天堂视频| 曰本女人牲交视频免费| 久久精品视频16| 亚洲一区免费观看| 精品视频网站| 一本道色综合手机久久|