色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

人類必須控制人工智能和機器

李輝 ? 2023-01-04 11:17 ? 次閱讀

不可預測性、不可解釋性和不可理解性

介紹

AI 研究人員開始確定工程 AI 安全的主要挑戰,例如解決價值對齊問題作為過去 60 年 AI 失敗的主要原因。另一個暴露的現實是:機器越智能,人類就越無法預測、解釋和理解其影響。

不可預測性

人工智能的不可預測性是指我們無法準確、一致地預測系統將用于實現其目標的具體行動。如果我們想象一場智能國際象棋比賽,我們可以預測 AI 會贏——如果這是它的目標——但我們無法預測它為實現目標會采取的確切動作。這種情況下的后果并不顯著,但不可預測性隨著目標的智能和復雜性的增加而增加。如第 2 部分所述,假設 AI 的任務是治愈癌癥;從理論上講,它可以通過消滅人類來做到這一點。

這些臨時步驟取決于幾個因素,包括 AI 在整個過程中的交互。第 3 部分中介紹的 Microsoft 的 Tay(bot)開始根據與在線人的互動用不恰當的評論激怒他人。更重要的是,低智能系統無法學會預測高智能系統做出的決定。盡管高級人工智能可以將所有可能的選擇、決策或策略理論化,但人類沒有這種能力。對于在某個領域比人類具有更高智能的狹窄系統,情況可能類似,即使該系統總體上能力較差。

無法解釋

無法解釋指的是不可能以既可理解又準確的方式解釋智能系統做出的決定。例如,用于批準或拒絕抵押貸款的人工智能可能會使用數百萬甚至數十億個加權因素來做出決定。但當申請人被拒絕時,解釋會指出一兩個因素,例如“信用不良”或“薪水不足”。然而,這種解釋充其量只是對如何做出決定的簡化。這類似于糟糕的圖像壓縮,其中數據在縮小過程中丟失,即使生成的圖像在很大程度上代表了原始圖像。以類似的方式,解釋抵押貸款拒絕是基于“不良信用”而忽略了其他因素可能產生的影響。由此產生的解釋是不完整的,因此不是 100% 準確。

其他因素是否一定需要解釋?他們可以。例如,在美國,涉及貸款、住房、醫療保健等的決策不能基于受保護的階層。用于批準或拒絕抵押貸款的人工智能不能在決策過程中使用年齡或性別等因素,但這些數據可以成為因素。例如,如果抵押貸款公司歷來拒絕向居住在舊金山且沒有大學學位的 18-25 歲拉丁裔女性提供貸款,人工智能可能會了解到符合這些標準的申請人拖欠貸款的風險更高,無論是否有其他有利條件標準。在這里,不可預測性也會出現,但這是一個很好的例子,說明為什么能夠準確、完整地解釋決策很重要。

不可理解

如果抵押貸款拒絕得到完整和準確的解釋,解釋是否可以理解?可理解性在某種程度上是相對于個人的;擁有金融學位或在抵押貸款行業擁有多年經驗的人會比沒有類似領域智慧的人更(或更容易)理解準確和完整的解釋。也就是說,考慮到一百萬個不同加權因素的系統的詳細響應對于人類來說是不可理解的,因為我們沒有存儲容量、內存和理解那么多相互關聯的變量的能力。

對安全人工智能的影響

不可預測性、不可解釋性和不可理解性使得實現 100% 安全的 AI 變得不可能,因為即使是既定的標準、法律和工具也無法適當地鼓勵或阻止不必要的影響。即使我們能夠預測 AI 行為,我們也無法在不限制智能或系統價值的情況下有效地控制行為。當然,評估和調試 AI 故障需要易于理解的解釋,隨著機器智能的增加,這種解釋變得越來越不可能。接下來,第 5 部分探討了 AI 安全將如何影響工程領域。

審核編輯hhy

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30746

    瀏覽量

    268897
  • 人工智能
    +關注

    關注

    1791

    文章

    47200

    瀏覽量

    238269
收藏 人收藏

    評論

    相關推薦

    嵌入式和人工智能究竟是什么關系?

    領域,如工業控制智能家居、醫療設備等。 人工智能是計算機科學的一個分支,它研究如何使計算機具備像人類一樣思考、學習、推理和決策的能力。人工智能
    發表于 11-14 16:39

    人工智能機器學習和深度學習存在什么區別

    人工智能指的是在某種程度上顯示出類似人類智能的設備。AI有很多技術,但其中一個很大的子集是機器學習——讓算法從數據中學習。
    發表于 10-24 17:22 ?2480次閱讀
    <b class='flag-5'>人工智能</b>、<b class='flag-5'>機器</b>學習和深度學習存在什么區別

    人工智能人類的影響有哪些

    人工智能(AI)作為現代科技的杰出代表,正在以前所未有的速度改變著人類的生活、工作和社會結構。這種影響是全方位的,既帶來了顯著的積極變化,也伴隨著一系列挑戰和問題。 一、積極影響 工作變革與經濟增長
    的頭像 發表于 10-22 17:23 ?1705次閱讀

    《AI for Science:人工智能驅動科學創新》第6章人AI與能源科學讀后感

    、優化等方面的應用有了更清晰的認識。特別是書中提到的基于大數據和機器學習的能源管理系統,通過實時監測和分析能源數據,實現了能源的高效利用和智能化管理。 其次,第6章通過多個案例展示了人工智能在能源科學中
    發表于 10-14 09:27

    AI for Science:人工智能驅動科學創新》第4章-AI與生命科學讀后感

    農業、環保等,為人類社會的可持續發展做出貢獻。 總結 《AI for Science:人工智能驅動科學創新》第4章關于AI與生命科學的部分,為我們展示了一個充滿希望和機遇的未來。在這個未來中,人工智能
    發表于 10-14 09:21

    《AI for Science:人工智能驅動科學創新》第一章人工智能驅動的科學創新學習心得

    人工智能:科學研究的加速器 第一章清晰地闡述了人工智能作為科學研究工具的強大功能。通過機器學習、深度學習等先進技術,AI能夠處理和分析海量數據,發現傳統方法難以捕捉的模式和規律。這不僅極大地提高了數據處理
    發表于 10-14 09:12

    risc-v在人工智能圖像處理應用前景分析

    RISC-V和Arm內核及其定制的機器學習和浮點運算單元,用于處理復雜的人工智能圖像處理任務。 四、未來發展趨勢 隨著人工智能技術的不斷發展和普及,RISC-V在人工智能圖像處理領域的
    發表于 09-28 11:00

    名單公布!【書籍評測活動NO.44】AI for Science:人工智能驅動科學創新

    后2個星期內提交不少于2篇試讀報告要求300字以上圖文并茂。 4、試讀報告發表在電子發燒友論壇>>社區活動專版標題名稱必須包含【「AI for Science:人工智能
    發表于 09-09 13:54

    FPGA在人工智能中的應用有哪些?

    FPGA(現場可編程門陣列)在人工智能領域的應用非常廣泛,主要體現在以下幾個方面: 一、深度學習加速 訓練和推理過程加速:FPGA可以用來加速深度學習的訓練和推理過程。由于其高并行性和低延遲特性
    發表于 07-29 17:05

    機器視覺和人工智能的關系與應用

    機器視覺和人工智能的關系是一個廣泛而深入的話題,涉及到計算機科學、電子工程、光學、圖像處理、模式識別等多個領域。 一、機器視覺和人工智能的定義 機器
    的頭像 發表于 07-16 10:27 ?908次閱讀

    AI人工智能機器人產業--政府真正應承擔的責任與角色

    。因此我們國家要想在人工智能機器人產業領先式的發展。就必須舉國之力,全民協作,各負其責,腳踏實地的快速推進。在此結合多年來我國人工智能機器
    的頭像 發表于 06-01 08:14 ?417次閱讀
    AI<b class='flag-5'>人工智能</b><b class='flag-5'>機器</b>人產業--政府真正應承擔的責任與角色

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V2)

    ://t.elecfans.com/v/27221.html *附件:初學者完整學習流程實現手寫數字識別案例_V2-20240506.pdf 人工智能 語音對話機器人案例 26分03秒 https
    發表于 05-10 16:46

    機器學習怎么進入人工智能

    人工智能已成為一個熱門領域,涉及到多個行業和領域,例如語音識別、機器翻譯、圖像識別等。 在編程中進行人工智能的關鍵是使用機器學習算法,這是一類基于樣本數據和模型訓練來進行預測和判斷的
    的頭像 發表于 04-04 08:41 ?301次閱讀

    5G智能物聯網課程之Aidlux下人工智能開發(SC171開發套件V1)

    *附件:初學者完整學習流程實現手寫數字識別案例.pdf 人工智能 語音對話機器人案例 26分03秒 https://t.elecfans.com/v/27185.html *附件:語音對話機器
    發表于 04-01 10:40

    嵌入式人工智能的就業方向有哪些?

    聯網ARM開發 NB-IoT開發及實戰 七:python工程師,人工智能工程師 python語法基礎 python核心編程 基于OpenCV的機器視覺開發 嵌入式人工智能滲入生活的方方面面,廣泛應用
    發表于 02-26 10:17
    主站蜘蛛池模板: 永久免费看A片无码网站四虎| 亚洲精品无码国产爽快A片百度 | 久久一本岛在免费线观看2020 | 高h肉肉乳共妻| 国产精品高清视亚洲一区二区| 国产精品久久久久久亚洲毛片| 国产香蕉尹人视频在线| 后入式狂顶免费视频| 恋孩癖网站大全在线观看| 欧美成 人 网 站 免费| 色久天| 国产99久久| 国产午夜精品自在自线之la| 狠狠色综合久久婷婷| 美女激清床上戏大全| 日产久久视频| 亚洲精品第一页中文字幕| 中文字幕A片视频一区二区| xxxxx69hd杨幂| 国产探花在线精品一区二区| 久久精品免费看网站| 欧美一区二区VA毛片视频| 偷偷鲁手机在线播放AV| 伊人久99久女女视频精品免| YELLOW日本免费观看播放| 国产午夜小视频| 美女pk精子4| 偷拍 拍自 欧美色区| 诱咪视频免费| 粉嫩小护士| 久久伊人天堂视频网| 色偷偷成人网免费视频男人的天堂 | 久久久精品国产免费A片胖妇女 | 蜜桃成熟时2在线| 特级毛片AAAAAA| 中文字幕在线视频网站| 高H高肉强J短篇NP| 久热这里在线精品| 特级毛片全部免费播放免下载| 中文字幕亚洲欧美日韩2019| 高h喷水荡肉爽文总攻|