來源：《理解和改變世界》

作者：約瑟夫·希發基思

對人工智能的與人類智能關系的探討在當下十分熱門，我們對人工智能是否可能取代人類這個話題投入了巨大的好奇。在未來，人工智能怎樣能接近人類智能，人類應該如何與人工智能共存等，都是需要科學家探究并回答的議題。

圖靈獎得主希發基思在他的新書《理解和改變世界》中，通過比較人類智能和人工智能為我們進行解答。在書中，他對人類智能與人工智能進行了區分，并對人工智能是否能超越人類智能給出了清晰的解答，指出了開發自主系統是縮小機器智能和人類智能之間差距的關鍵，并分析濫用人工智能給人類帶來的真正的風險與威脅何在。

以下內容來自他的新書《理解和改變世界》：

一、人類智能與人工智能

人類的思維分為快速思維和慢速思維，兩種思維對應著不同的計算模式，也就是編程的計算模式與人工神經網絡的計算模式，理清不同的思維特點，能幫助我們區分人類智能和人工智能，為探究人工智能接近人類智能指明道路。

1.快速思維和慢速思維

人類擁有兩種類型的思維模式：較慢卻有意識加工的思維，這是程序性的并且需要運用推理規則。我們使用慢速思維去有意識地解決問題，例如分析問題、做計劃或制造東西。快速卻自動（無意識）完成的思維，快速思維是自動完成的，卻可以讓我們解決復雜度極高的問題，例如說話、走路、彈鋼琴等。

兩種思維模式也對應兩種不同的計算模式：慢速思維基于我們理解事物的心智模式，這種模式與我們對計算機進行編程的計算模式類似?？焖偎季S則是有意識學習的結果，通過反復地訓練，內化成一種自動的模式，這與人工神經網絡的計算模型一樣。

對應這兩種思維模式，如果我們想要制造雙足機器人或者能騎車的機器人，可以通過兩種方法：1.考慮好所有可能的物理情況，然后將機器人的動作編寫為相應的程序。我們需要借助力學理論，編寫能實時控制的程序。2.對人工神經網絡進行反復訓練，讓它在同樣的物理條件下做出相似的動作。我們并不需要力學知識，但是可以訓練人工神經網絡學習如何平衡。

最適合模擬快速思維的是直接依賴物理過程的自然計算機，例如量子計算機、蛋白質計算機，特別是人工神經網絡。它們與快速思維一樣，對信息的處理本質上是并行的，而且執行的大都是那種邏輯分析不可能完成的計算。

2.人類天生擁有常識智能

傳統計算機所擁有的任何“智能”都只是程序員的智能，它們只是在執行程序員用符號描述好的命令而已。隨著人工神經網絡的出現，情況發生了變化。人工神經網絡采用完全不同的計算模式，這種模式不是靠編程，而是從龐大的數據集中進行學習。

讓計算機接近人類智能的第一步，是讓它表現得像我們所說的強人工智能。能把特定問題的解決方案與相應的技能結合起來，像人類一樣對環境的刺激做出反應。人類智能的特征是能夠把對感官信息的感知/解釋、信息的邏輯處理，以及可能導致行動的決策結合起來。

想讓計算機表現出人類的行為，需要賦予它相應的語義模型：我們可以把意識理解為大腦在外部世界和內部世界的語義模型中“看到”自己如何行動的能力。這個模型在我們的嬰兒時期就自動構建起來了。人類的大部分智力都屬于我們所說的常識。我們的大腦會使用它的語義模型來評估環境中正在發生的事情以及可能的后果。這個語義模型不斷積累經驗，幾乎每天都在自我豐富。

為了讓計算機表現出人類的這種行為，我們必須賦予它相應的語義模型。理論上，如果我們能夠對自然語言進行分析和形式化，按照層級構建出概念之間關系的語義網絡，再加上表征和更新知識的規則，我們就可以構建出這樣一個模型。

3.人類思維具有認知局限

人類的思維受到認知復雜度的限制。實驗證明，我們的大腦能夠關聯的參數數量的上限大約是五個（一個關系與四個參數）。人類無法同時建立起大量操作單位之間的關系，這對我們理解世界是一個非常大的限制，這導致我們人類的思維并不具備理解復雜現象的能力，也限制了我們所能構建的理論與制造的工件的復雜性。

現象是復雜的，人類思維對復雜現象的認知具有局限性。在過去的科學中，人類通過簡化構建了一種研究復雜現象的方式，但這種方式并不能解決所有的復雜現象的問題。正是在這些問題上，相信人與計算機之間協作，可以在一定程度上幫助我們克服認知局限，建立起一種新的研究復雜現象的方式。

二、自主系統：超越弱人工智能

人類思維的本性限制了我們探索知識的能力，我們可以利用計算機來克服認知復雜性的障礙，發展并驗證能夠解釋復雜現象的新理論。我們有了一個生成新型科學知識的流程，其中的規律不是由人類思維設計的、明確表述的數學關系，而是使用計算機發現的、可能很復雜的關系。對這種關系的分析可能具有預測性，但由于不能通過明確的數學模型來描述，因此肯定會限制我們對現象更深入的理解。在計算機的輔助下，我們有了一種新型的知識，它讓我們無須借助數學分析進行理解，便可以做出預測。人工智能和超級計算機的使用正在為人類知識的發展鋪設一條新路。

1.機器學習的成果

機器學習和數據分析領域的最新進展表明，機器正確地生成知識并做出預測是可能的。這些技術可以識別數據中的復雜關系，而這些關系可以顯示出因果關系并進一步做出預測。

比較科學知識的發展方式和機器學習產生知識的方式，科學發現是觀察者經過學習的結果，他創建一個可以解釋和預測現象的模型，進而形成一個理論。而人工神經網絡生成知識的方式則是對大規模數據進行長期“學習”。通過學習代表因果關系的數據，神經網絡可以用一種外推方法來估計某個原因最可能導致的結果。如果人工神經網絡的輸入和輸出是物理量，對其做形式化就沒有理論限制了。我們可以通過了解人工神經網絡各部分的結構和行為，從理論上計算出表征輸入和輸出關系的數學函數。在數學模型無法起作用的情況下，人工神經網絡就顯得特別有用。

但是采用機器學習的方法，并不能完全解決智能的問題。人類智能的特征是自主行為以及對內、外部環境變化的適應。這是人類大腦能夠創造新知識，理解從未遇到過的情況，以及設定新目標的關鍵所在。目前機器學習并不能做到一點。只有當某一天，計算機系統能夠自主執行大量任務，并且能夠適應不斷變化的環境時，我們才可以說人工智能和人類智能之間的差距正在消失。

2.人工智能接近人類的可能：自主系統

傳統計算機與人類的區別在于，傳統計算機會自動執行某些預定的功能，是一個自動化系統；而人類則具有自主行動的能力，人可以對環境的變化做出反應，也可以在內部目標的驅動下主動采取行動。

人工智能的應用使我們向前邁出了重要的一步，即從自動化系統發展為自主系統。對于自主系統，我們期待它能夠在復雜任務中取代人類，人們的目標是希望達到在沒有人工干預的情況下，把人工智能與自動化的流程結合起來，從而實現更高的效率。在這個系統中，人的作用是設定和調整目標，而目標的實現則完全交給自主系統來完成。

在自動駕駛中，我們只需要輸入目的地，自動駕駛系統就能幫我們把車開到相應的位置；在智能工廠或智能農場中，我們只需要輸入生產指標，整個系統就能幫我們管理工廠/農場，從而完成生產指標。實現自主系統和服務是物聯網的核心目標。如果這個目標實現了，那么我們將更有信心說，計算機智能可以起到比在游戲中擊敗人類更重要的作用。

要實現物聯網的愿景，開發可靠的自主系統至關重要。這既是一項科學挑戰，也是一項技術挑戰，同時還包含巨大的經濟和政治競爭。這就是為什么所有主要的科技公司都在投資這個領域，尤其是自動駕駛汽車，因為有相當大的經濟利益。參與這場競爭的公司包括谷歌及其子公司Waymo、蘋果、英特爾及其子公司Mobileye、優步、阿里巴巴、華為、騰訊等，當然還包括所有主要的汽車制造商，其中特斯拉處于領先地位。

3.自主系統的功能和組織的特征

一個自主系統包括五個關鍵功能，環境感知和狀態表示用來理解環境狀況，目標管理和策略規劃用于決策，另外一個賦予了系統自我學習的能力。

環境感知功能從環境中接收感知信息（圖像或別的信號），然后根據存儲庫中的概念，對這些信息進行分類。感知到的信息被傳遞給狀態表示函數，這種函數的功能是建立一個系統外部和內部環境的模型。決策模塊有兩種功能：目標管理和策略規劃。所謂目標管理，即從一組預先確定的目標中選擇與環境模型的當前狀態相匹配的兼容目標子集。目標管理也決定了我們所說的策略規劃。策略規劃功能可以對目標管理進行補充和完善。該功能決定了系統的策略。對于每組選定的目標，策略規劃功能函數會計算出一系列命令給執行器，執行器執行相應的操作。最后，第五個關鍵功能是自我學習，對知識庫里的知識進行管理和更新。知識的更新是通過創建新知識來完成的：（1）環境，例如基于模型數據分析中積累的知識形成的新概念；（2）適應環境變化的新目標，或改變與目標選擇相關的參數值。

上述架構將“自主”定義為：為了適應環境的變化，系統在沒有人為干預的情況下實現一系列目標的能力。為了實現“自主”，需要將五個相互獨立的功能——環境感知、狀態表示、目標管理、策略規劃和自我學習——結合起來。

三、人工智能帶來的真正挑戰

計算機智能最終將超過人類智能，我們最終可能會成為機器的寵物。史蒂芬·霍金、比爾·蓋茨和埃隆·馬斯克等人都支持這類觀點。顯然，這些觀點缺乏嚴肅性，是站不住腳的。再強大的機器也不足以戰勝人類的智慧。但他們的這些想法在媒體中找到了滋生的溫床，被不加批判地廣泛傳播，在很大程度上引起了公眾的共鳴。人們都在熱議計算機智能的假想風險，也許把真正的風險掩蓋住了。而這些真正的風險才是問題所在，因為它們涉及社會組織的類型及其所服務的關系，特別是社會和政治性質的問題。

1.風險一：失業

很久以前人們就發現，自動化程度不斷提高帶來的一個風險是，機器人使用越普遍的行業失業率越高。除了引發高失業率之外，自動化的趨勢還會進一步擴大需要技能和知識的高薪工作與其他體力勞動之間的差距。有些人認為，傳統工作崗位的消失會被新需求所創造的崗位抵消。我認為，除非對職業結構進行徹底改革，否則失業和工資差距的問題將會惡化。

2.風險二：防護、安全和風險管理

當自動化集成程度超過某個水平時，信息系統如果缺乏安全保護可能是極其危險的。眾所周知，即使對那些最重要的系統，人們也無法做到全面保護它們不遭受網絡攻擊，我們充其量只能希望及時發現入侵者。

在引入人工智能和自主系統的領域，其風險管理與在其他領域有顯著的差異。在這些領域中，不再有獨立的國家機構來保證和控制系統的質量及安全。這個責任轉移給了制造商。其中的風險是顯而易見的，因為用戶的安全級別將不再由透明的技術標準決定，而是由制造成本和能夠覆蓋事故賠償金的保險成本之間的最佳平衡值來決定。

各國政府和國際組織明顯是缺席和不作為的。他們好像認為技術進步本身就是目的。他們很少關心互聯網上發生的違法行為。他們認為風險不可避免，因此干脆對其放任自流，就好像進步一定會帶來某些不可避免和無法控制的弊病一樣。

因此，公眾輿論仍然處于混亂迷失狀態，而且在一定程度上被那些既不負責也不客觀的聲音操縱了。一些人夸大了風險，而另一些人則為了推廣技術應用而淡化風險。公眾卻樂于接受錯誤的思想，并隨波逐流。

3.風險三：技術依賴

技術的應用解決了人們的許多實際問題并使生活變得更舒適，但這也意味著我們喪失了某些解決問題的技能。擔心人們過度依賴技術并非杞人憂天。因為現在技術不僅是解決單個問題，而且為人們提供了全面的解決方案。這意味著我們正在過渡到一種新的生活方式——技術提供大量的服務，減輕了我們管理決策的負擔。在這種生活方式中，有越來越多的技能/知識不再是我們必須掌握的了。

正確、合理地使用人工智能和自主系統取決于：第一，根據客觀標準評估我們是否可以信任計算機生成的知識。第二，全社會的警惕性和政治責任感。

審核編輯：湯梓紅