在《未來戰士》《二十二世紀殺人網絡》等電影里，有機器人滿世界追打人類的鏡頭。相信當時看過這些電影情節的人，內心的感受是復雜的。不過，緣于那些情節與現實生活還存在著相當大的差距，因而人們所持的基本上都是不置可否的態度。然而，隨著人工智能技術的不斷突破，機器人已由當初極其有限的“領悟力”轉變為能夠識別人類面部表情并與人進行情感交流的一個“活體”。本來，機器人面世后，就因為它們通常都是某一方面的行為專家，具有人類個體所不能企及的特長而讓人類刮目相看。現在，機器人具有了“情感”，具備了思索能力，那么，在將來的某一天，它們就會像人類一樣，自我設計，自我制造，以致驅逐和殺戮人類，最終終結人類。

那么，會不會出現人工智能反噬人類的情形呢？這是現代人杞人憂天呢，還是有些人的故意危言聳聽呢？可以說，一切都未定論。在當今科技領域，包括一些頂尖人工智能專家都認為，人工智能會反噬人類，人類發展人工智能，將會讓人類踏上不歸路。享譽世界的英國天體物理學家、英國劍橋大學著名教授史蒂芬·威廉·霍金就是持這種觀點的人員之一。他發出警告道：“完美人工智能的開發，便意味著人類的終結！”

2015年10月初，在Reddit網站舉行的“問我任何問題”（Ask Me Anything）活動環節中，霍金教授在回復提問時，再次重申了他一直堅持的關于人工智能的觀點：“人工智能技術，未來必將對人類構成威脅。”不過，他同時強調，這其中最大的危險不是機器人會有計劃地摧毀人類，而是它們完全拋棄了人類，具有了自主決策的能力。他認為，機器人不可能會產生與人類敵對的意識，但它們在追求自身設定的目標時，會對人類的利益造成傷害。他說：“真正的風險不在于敵意，而在于能力。超級人工智能機器人將極善于達成自己所設定的目標，而如果它所設定的目標與我們的目標并不相互吻合，那么我們就有麻煩了。舉個例子，你有時候踩死一些螞蟻，但這并非出于你對螞蟻的主觀惡意，但如果你恰好準備在某個地區修建一個水電站，而那片地區正好有一個蟻穴，那么對于螞蟻來說，這可真是個壞消息。”也就是說，機器人帶給人類的傷害，很大程度上屬于無意傷害。這也就意味著人類由地球上萬物之靈長的位置上跌落下來，淪落為由自己一手制造出來的機器人占主導地位之下的二等公民。因而，霍金揭示道：“不要把我們人類自己放到那些螞蟻的位置上去。”

霍金認為，人工智能機器人因具有了情感，最終會進化出對生存的渴望。他為此說道：“未來一臺高度先進的人工智能設備將逐漸發展出求生的本能，并將努力獲取實現其自身所設定目標所需要的資源。因為生存下來并獲取更多資源將能夠增加其實現其他目標的機會。對于人類而言這將導致生存問題的發生，因為我們的資源將會被掠奪。”他指出，隨著人工智能技術的發展，智能機器人具備了人類一樣的生存能力，它們就會不再依賴人類，而是會自主進行自我完善和自我升級。這時，機器人世界就會出現“技術大爆炸”。最終，機器人的技術能力就會遠遠超越人類，終至把人類越甩越遠，就如同現階段人類的技術能力遠遠超越蝸牛一樣。

不過，霍金同時也表示，就目前人工智能技術發展現狀來說，與研制出和人腦功能相當或遠超人腦功能的機器的要求還存在著相當遙遠的差距。他說：“當這件事最終發生時，那或許將成為人類歷史上發生過的最好或是最壞的事，因此把這個問題弄清楚將具有極大的價值。我們或許將花上幾十年的時間才能找出問題的答案，那么就讓我們從今天開始啟動這項研究，而不是拖到超級機器人即將被啟動的前一天晚上。”

霍金參與Reddit網站舉行的“問我任何問題”活動，一共獲得超過9000條的提問和評論，成為該網站舉行的這類活動中關注度較高的一次。緣于工作和身體的原因，他在四個月之后才有時間回復網民的提問。在回復的問題中，大部分問題都涉及人工智能領域，而在回復中他頻繁地表示了自己的擔憂。在此次活動前，他曾與幾位頂尖科學家和美國企業家埃隆·馬斯克簽署了一份公開信，同樣表達了對未來人工智能對人類構成威脅的擔憂。他稱，在下個世紀，人類的能力將會被機器人超越。因而，科學家務必要確保人工智能的未來目標是與人類的發展目標相一致的。

可以想象，機器人掌握了人類的心理和應對模式之后，就可以輕易控制和塑造人類情感。屆時，在機器人高人一等的優越感面前，具有強烈自尊的人類會不會感到無地自容而整體消亡呢？好在一切都還為時過早，也就有了與霍金相反的觀點。這些觀點認為，人工智能只是人的身體、智力的一種工具性延伸，它所不斷增強的也只是這種工具性的能力，而不是像人類那樣具有無中生有的發明創造能力。現今出現的機器人戰勝人類的各種能力，棋藝也好，自動駕駛技能也好，都是在人類現有能力基礎上，對人類知識、信息處理方式所總結出的一種優化處理方式。即使是所謂的情感機器人，也只是對人類的表情和語言特征進行程序化應對，并不表明機器人擁有了同人類一樣的情感。因而，人工智能就好比戰士手中的武器，它具有人類肉身所不能取得的功效，但武器本身并不具備奪取生命的主動權，而是完全聽命于掌控它的使用者。

從技術和現實兩個層面來看，人工智能所放大的只是人類現有的能力。受到特質條件的限制，它不可能具備大規模自我批量升級和進化的能力。因此，我們也就不用擔心它們會自己建廠，自我加工，自我提升腦力，自我升級。從人類開發的動機的目的性上來說，人工智能也不具備不可控性。

綜合各方觀點，無論是霍金的反噬論，還是相反的人工智能可控論，人工智能最終是天使還是魔鬼，完全取決于開發和應用技術的人。只要人類自身能約束好自己，未來的人工智能就一定會沿著服務于人類的方向前行。