自殺開關研究或緩解人工智能恐慌
大小：0.10 MB 人氣： 2017-10-10 需要積分：1
標簽：人工智能(227935)
?很多人被科幻電影中描述的機器人統治世界的暗示嚇到了，現在，Google的一項研究可能會緩解人們的這種恐懼。
Google的DeepMind是倫敦的一家人工智能公司，于2014年被Google收購。現在，DeepMind正在研究機器人和人工智能的自殺系統。
這個想法來自于，如果未來機器人可以控制自己的啟動按鈕，那么人類就需要更高優先級的控制權限。
“如果一個機器是在人類的實時監控下進行操作的，那么它可能會需要一個紅色按鈕，可以隨時停機，以免它進行危險的操作。”機器智能研究協會的研究者發布的一篇論文稱，“然而，如果具有學習的能力機器從長遠角度學會了組織這種停機，比如使紅色按鈕失效，這可不是鬧著玩的。”
這篇論文的作者是Google Deep Mind的研究員Laurent Orseau和英國牛津大學人類未來研究機構的研究員Stuart Armstrong。
研究者們試圖找出一種方法，來使機器避免學會人們的操作，從源頭上阻止它們。
鑒于目前公眾對人工智能的恐慌，這對研究者來說是有趣而且重要的一步。
很多人被有關機器人的電影潛移默化的影響了，比如《2001： A Space Odyssey》， 《The Terminator》， 《I， Robot》和電視劇《Battlestar Galactica》。他們認為未來人類可能變成機器人的奴隸。
這并不是一個美好的暢想，而且這讓包括高科技企業家Elon Mush和著名的物理學家Steven Hawking的很多人對等待人類的將是怎樣一個未來感到不安。
霍金的擔憂很長遠，他說：“人工智能的快速發展也就是人類的末日。”
Google的自殺開關不僅僅是平息這種恐慌的一項技術，而且時機也剛剛好。
“人工智能和自主機器的架構正在發展，這個時候進行這個研究恰到好處。”Patrick Moorhead，Moor Insights & Strategy的一個分析員說。“就好像設計一個汽車，只有在后來才會設計ABS和剎車系統。自殺開關需要設計到整個系統中去，不然，就會存在可能會機器繞過的安全漏洞。”
Moorhead拒絕談自己是否擔憂具有人工智能的機器，但是他說，很支持研發一個安全的紅色按鈕。
“如果一個AI系統沒有自殺開關，”他說，“那么就好像設計了一個高速火車，卻沒有剎車系統。”
獨立分析員Jeff Kagan說，DeepMind的研究很有價值。對于一個總是先開發技術然后再去考慮后果的行業來說，這次時機把握的很好。
“雖然我們現在還沒有必要擔憂是不是會被AI占領。”Kagan說。“但是我們做的總是想的快……我只希望，那些杰出的科學家能用他們的大腦保護好我們，而不是一味地開發最后嚇我們一跳。”
The Gabriel Consulting Group的分析員Dan Olds說，Google將他們的一部分精力放在安全方面上，卻是是一家負責任的公司。“我認為，鑒于現在機器人和人工智能領域的現狀，Google在這方面做到了領導者的責任。”Olds說，“人工智能或機器人統治人類確實還離現在比較遠，但是到底有多遠呢？在接下來的5年里，可能我就會看到金融服務都交由AI管理，可能我會看到更多的設備完全由AI負責。這就是我們需要自殺開關的原因——防止某些事情偏離軌道，造成不可挽回的損失。”
?
非常好我支持^.^
(0) 0%
不好我反對
(0) 0%