在當前關于“人工智能”（Artificial Intelligence，AI）與“奇點”（Singularity）的討論中，這兩個詞語的不同含義經常不同程度地被混用，成為諸多分歧產生的根源之一。本文對這些含義進行了辨析，進而提出“通用人工智能”（Artificial General Intelligence，AGI）所代表的智能觀，認為AGI可以存在，但奇點卻不會出現。

近年來深度學習進展神速，令“計算機能否比人更聰明”再度成為熱點話題。在這類討論中存在兩種截然相反的觀點：“無限論”者認為，從人工智能已取得的成果上一看便知，沒有人工智能做不了的事情；“有限論”者則認為人工智能不可能真有多少智能，所以做不了很多事情。在我們看來，二者的論證皆有概念混淆的問題。下面我們從概念分析開始，希望在這團亂麻中理出些頭緒，也為這炎炎夏日的火熱論爭帶來一絲清涼。本文是我們一篇英文論文[1]的縮寫版。

人工智能（AI）與通用人工智能（AGI）

“人工智能（AI）”沒有公認的嚴格定義，盡管簡而言之，這項研究是試圖“讓計算機像人腦一樣工作”。盡管聽上去似乎直截了當，這種看法實際上要求AI在某些方面與人類智能相似（甚至相同）。由于計算機既非生物有機體，也不可能過和人類一模一樣的生活，故而期望人工智能與人類智能在所有方面都完全一樣顯然是不切實際的。但這是個自明的“潛假設”，很少被明確提及。其結果是當人們關注人類智能的不同方面時，提出和遵從的AI范式彼此迥異，其目標、需求、假設、路徑和應用均大相徑庭。

在相關討論中，至少存在三種不同見解：

1、認為“AI”應該行為表現與人完全一致。

2、認為“AI”應該能夠解決某些過去只有人腦才能解決的問題。

3、認為“AI”應該具有與人相同的認知功能。

在后面的討論中，它們將分別被稱為AI-1、AI-2和AI-3。就AI-1而言，最廣為人知的形式莫過于一個能夠通過圖靈測試的計算機系統。由于通俗易懂，這種AI經常出現在科幻小說和電影中。在公眾看來，這就是“AI”的含義。但事實上，這基本上不是人工智能領域的研究目標。

在AI研究的初期（上個世紀中葉），絕大多數研究者的確都試圖創建在各方面均可與人類心智相媲美（盡管未必完全相同）的“思維機器”。然而，對這一目標的所有直接嘗試均宣告失敗。于是，主流AI研究者將“AI”重新詮釋為AI-2，即在某一特定應用或認知功能上達到人類水平。常規AI教科書中幾乎所有的內容都成為了AI-2的腳注，就連新近增補的深入學習和其他機器學習算法也無出其右。

盡管AI-2取得了令人矚目的成就，業界內外的許多人仍然覺得這種系統其實更接近傳統計算而非一般意義的智能。這也正是十幾年前需要引入“通用人工智能（AGI）”這個新詞的原因。盡管這類研究項目實際上從AI之初便一直存續至今，但是當主流AI已經在這個招牌下從事不同的經營活動之后，給這個目標取個新名字就成為必要的了。AGI將“智能”視為一種一般能力，而主流AI則將其視作多種具體能力的松散集合。因此，AGI更接近于前述AI-3。

許多人用“強AI”稱呼AI-1和AI-3（以及AGI），而用“弱AI”指AI-2。雖然這個區分有其直觀吸引力，很多AGI研究者通常并不用“強AI”來稱呼自己的研究工作。理由一是避免該對語詞背后潛藏著的哲學預設（“強AI”和“弱AI”的差別原本就不體現在外部功能上，而是系統是否有“內省”能力），二是AI-2與AI-3的主要區別不在于“能力的強弱”，而在于“適用的范圍”。對某一確定性問題而言，專用方案的能力往往強于通用方案。因此，期望AI-2的技術變得“更強大”而最終躍升為AI-3是不現實的，因為二者的設計源自根本不同的出發點。換言之，將現有AI-2技術捆綁整合而成為AI-3系統的想法是不會實現的。

此外，AI-1側重于系統的外在行為，而AI-3則側重于其內部功能，但“強AI”這個概念卻無法區分AI-1和AI-3。盡管有理由認為“行為表現與人腦完全一致的計算機系統”（AI-1）大約依賴于“與人類心智相同的認知功能”（AI-3），但反過來卻未必成立。系統的行為（或其“輸出”）不僅取決于內部的處理機制和功能，還依賴于系統的“輸入”（可粗略稱其為“經驗”）。因此，“類人”的認知機制如果被給予“非人”的經驗，其行為也不會像人。這就好比在輸入值差別很大的情況下，即使兩個數學函數幾乎等同，但其輸出值也可能有著天壤之別。

那么，為何不能給AGI人類的經驗呢？原則上，人類感官及感知過程均可能被計算設備模擬到任意精度，但這在實際上卻不太可能。以視覺為例：每種光感受器都應具有一定的靈敏度、解析度、反應時等等。人眼如此，其它動物的眼或各種電子感光設備也莫不如此。因此，“讓計算機有視覺”和“讓計算機有和人類完全一樣的視覺”是兩個難度相差懸殊的任務。

退一萬步講，即便能夠在所有細節上模擬人類的全部感官，也仍然只能得到某人的直接的物理經驗，依舊無法獲取從人際交流中得到的間接的社會經驗。因為社會經驗的取得，需要計算機被其他人（或機器）視為人。這已然不是能否實現的技術問題，而是是否需要或值得去做的問題了。

為了便于討論，假設全體人類社會確實像對待人類一般來對待AGI系統；在這種情況下，AI-1是有可能實現的。然而，這是基于對“智能”高度的人類中心主義的解釋，其實它應該被稱為“人工的人類智能”。用人類行為來刻畫智能會令其他非人智能（如“動物智能”、“群體智能”、“外星智能”等）僅根據定義便成為不可能，僅僅因為它們并不具有類人的輸入和輸出。

這種人類中心主義的“智能觀”總是作為隱含的預設立場而存在，卻幾乎未被明確地討論過。一個突出的例子便是將圖靈測試作為AI的操作性定義，盡管圖靈自己只是將其視為智能或思維的充分條件而非必要條件。圖靈本人寫道：“難道機器不能進行一些與人不同卻可稱之為思維的活動？這個反詰很有力，但至少我們可以說，如果能夠很好地應對角色扮演任務的機器可以被造出來，我們就不必為這種反詰而煩惱”。這就是說，即使“行為像人”說明有智能，“行為不像人”也未必就是沒有智能。

在當前AGI研究中，幾乎沒有人將目標設定為建立AI-1系統；相反，將他們的工作視為某種AI-3的版本才更適合。他們認為，“思維機器”或“通用智能”不僅和人類心智有可比性，甚至可能在某種抽象意義上完全相同，盡管未必是行為細節的全部等同。就像我們認為魚和鳥有視覺但卻與人類之所見非常不同一樣，這種行為差異的存在并不意味著非人系統無法擁有真正的智能。

“奇點”（Singularity?）與通用人工智能（AGI）

“奇點”，也被稱為“技術奇點”，是另一個既無準確含義也未被廣泛接受的概念。盡管常見于一些作品而為公眾所熟知，但實際上這并不是一個真正的計算機科學或技術術語。

“AI將導致奇點”這一觀點的典型表述可以分解為下列三個結論：

1、系統的智能水平可以表示為一個數值。

2、經由學習或迭代改進，AI能夠提升自己的智能水平。

3、當AI的智能水平超越人類，它的整個未來將被我們視作一個單點，因為從那以后這個系統將超出人類的理解范圍。

當然，有人也僅使用“奇點”一詞來指代“AI達到人類水平”或“計算機比人類更聰明”這個時間節點，而不做其他假設。接下來，我們將聚焦于上述典型表述，因為當它被分析之后，我們對其各種變體的看法也便一望而知了。

第一句話看似正確，畢竟一個“聰明”或“智慧”的系統應該可以解決許多實際問題，而人們也總是利用各式測驗和檢測來評估效果，比如人類自身便通常使用“智商”（IQ）來衡量智力水平。盡管為通用系統的問題解決能力的找到一個恰當的度量絕非易事，但為方便討論，我們假設可以確立這樣的一個度量S，代表系統在解題能力上所得的“分數”。即使如此，我們也不認為這是一個衡量系統“智能”的正確標準，因為它完全排除了時間因素。在通常意義下，人們往往把“智能”與后天習得的解決問題能力相聯系，而非先天擁有的問題解決能力。出于這個原因，在某一給定時刻t，系統的智能應該用該時刻增速S'(t)而非S(t)來衡量，也就是說，智能水平不是指系統在此刻能解決多少實際問題，而是指其解題能力在此刻的增長速度。

圖1 時間t與總分S的四種不同關系

圖1更為直觀地展示出S(t)和S'(t)之間的差異。就當前的討論而言，就其所能解決的問題的數量S與時間t的關系可區分出四類不同的系統：

藍線對應于一個完全沒有學習能力的系統。系統能力完全由先天因素確定，即S'(t) = 0。所有傳統的計算系統都屬于這一類，盡管其中一些被人們視為“AI”。

紫線對應于一個學習能力有限的系統。此類系統中S'(t) > 0，但最終收斂至0。絕大多數的機器學習算法都屬于該類。

綠線對應于一個學習能力基本恒定的系統。此時，S'(t)是一個正常數。包括我們團隊在內的許多AGI項目都屬于這種類型。

紅線對應于一個學習能力本身在增長的系統，其S(t)和S'(t)均呈指數遞增。我們認為這樣的系統并不存在，在此僅將其作為一種可能性列出來。

粗略地說，這里的 S(t) 表示“解決問題的能力”，S'(t) 則表示“學習的能力”，“能夠解決多少問題”與“能夠學到多少東西”并不直接相關。如圖1所示，取決于其中的常量和測量的時刻，四種類型中的任意一種都可能成為問題解決能力最強者，但其學習能力卻各不相同，由弱至強可排序為：藍線 < 紫線 < 綠線 < 紅線。

我們認為，智能水平應由S'(t) 而非S(t) 來刻畫，盡管這與當前主流觀點不同，但事實上這種理解不僅更加符合“智能”一詞的深層含義，也有助于開創AI研究的新局面。

上述結論與人類智商（IQ）的衡量方式其實并不沖突，雖然智商測試的直接目標上是問題解決能力。智商是人的“心智年齡”（由測試分數給出）除以所在年齡段之商。在人們先天的問題解決能力S(0) 并無明顯差異的情況下，更高的S(t) 值意味著更高的S'(t) 值，所以可以用IQ來衡量某人的學習效能與他人的差異。然而，這對于AI系統卻不能成立，因為不同的計算機系統可以有差異極大的S(0)值，取決于它們不同的設計與配置。

盡管在AI研發過程中“學習”往往與“問題解決”被置于同一層面，但“學習是智能的核心”的見解卻早已有之。按照我們的理論，各類問題解決能力處于“對象層次”，而學習能力則是處于“元層次”。正如前面“AI與AGI”比較中所提及的，這一差異開啟了另一扇窗：主流AI研究把智能視為解決特定問題的能力，由于不同的問題具有不同的問題特征，其解決方案也因此不同。相反，AGI關注的是獨立于具體領域的“元問題”。其實，這兩種方法既不重疊也非競爭，而是互補的。“綠線族”便是個很好的例子，這類系統將其元層次的知識和操作看做“智能”（主要來自系統先天預設），而將其對象層次的知識和操作視為“信念和技能”（主要來自系統后天經驗）。當我們說此類系統達到“人類水平”時，實際上意指其元知識和元操作與人類的相類似，不論對象層的信念和技能和人有多大程度的重合。

在AI系統中元知識的習得并非不可能，但有幾個重要問題卻很少在相關討論中被提及：

許多AI系統中雖然存在著“對象層次”和“元層次”之別，但其具體邊界取決于系統的設計，所以某系統元層次上的學習可能對應于另一系統對象層次上的學習。

有的“元學習”算法用窮舉嘗試找尋最優解，但考慮其所消耗的時空資源及潛在風險，這種做法其實并不可取。

一個常見的誤解是將“遞歸式的自我改進”與“系統修改自身源代碼”相等同。對于Lisp和Prolog這樣的編程語言，自身源代碼修改和函數生成其實早已實現；但是，這些技術的實際使用并不會造成革命性的后果，因為其他編程語言也可以通過對某些數據的修改而實現同樣的效果。請注意，“程序”與“數據”二者之間并無理論鴻溝，只是應用解釋有別而已。

由于現有的機器學習技術是為對象層任務而設計的，因此對學習元知識并不能勝任。人類的大腦也是如此：作為一個個體，我們的心理機制大多是先天形成，只能通過有限的方式緩慢地加以調整。只有在規模上升到物種層面的討論時，人類才會借由進化而“學習”，但付出的代價卻是更慢的速度和更高的風險（對個體而言，不佳的改變往往致命）。于是，最好將群際內的元學習過程稱為“進化”，而為個體對象層的學習過程保留“智能”一詞。

時至今日，我們依然沒有看到任何說明“紅線族”系統可能存在的確實證據。雖然奇點的支持者經常把“指數增長”現象的存在掛在嘴邊，其證據也不是關于一個能夠自我改進的獨立系統中的。縱然“智能”是一個程度的問題，也沒有證據表明智能在“人類水平”之上依舊可以無限提升。“超人智能”往往是對應于“低于人類水平的智能”的一種類比，而這里的“智能水平”既包括對象層因素也包括元層次因素。在這里，S(t)值顯然可以通過知識、技能或計算資源任意的增長而提高，但“超人智能”和高S(t)值不是一回事。在元層次上，“超人智能”意味著一種完全不同的思維機制，能夠更好地滿足適應的目的。當然我們不能否認這種可能性，但確實沒有看到任何證明其可能存在的證據。

計算機能比人類更聰明嗎？如果“更聰明”是指更高的問題解決能力的話，那么這在很多領域中早已發生了。計算機在很多方面都比人做得好，卻尚不足冠以“智能”之冕，不然連數值計算和排序算法也都能算作其所在領域的智能標兵了。引入“AGI”一詞的原因也正是要避免這種什么都算是“有智能”的局面。同樣，盡管“機器學習”的字面意思也包括了“綠線族”系統，而且機器學習領域一開始還是“百花齊放”，但現在“機器學習”一詞卻幾近等同為“統計學的函數擬合”，變得僅僅側重“紫線族”而已。故此，不得不用一個新的名稱來避免混淆。對“綠線族”或“紅線族”而言，S(t) 雖能夠提升至任意水平，甚至“比人類聰明”，但受到傳感器、動作器及經驗所限，并不意味著在每一個問題都能比人做得更好。在這一問題上，“綠線族”和“紅線族”之間存在根本差別：由于“綠線族”內部的元知識由其設計者指定，所以即使其S(t)值遠高于人類水平，人們仍然能夠理解它的運行原理及基本工作過程。而相反，如若果真存在某個“紅線族”系統，它將在某個時間點之后讓人連它是如何工作都變得無法理解。

既然不相信“紅線族”能夠存在，我們也不認為“奇點”可能發生。但是，我們卻堅信可媲美人類心智的AGI系統是能夠創建出來。這種系統在元層次上的能力與人類大致相等（不高也不低但未必完全相同），而在對象層次上的能力則可高于人類（指總分，而非每項任務）。這些AGI系統仍舊可以經由人類或自身來持續改進，但不會突現一個機制全然不同的“超人智能”。

總結：AGI是等同于人類的計算機系統，無需處處一致

因此，我們的智能觀是：

AGI將是在原理、機制和功能上與人類智能相似的計算機系統，卻不必然非得在內部結構、外部行為或問題解決能力上與人一致。作為另一種智力形式，AGI將具有與人類大致相同的智能水平，既不會過不高也不會過低。對于具體的問題解決能力而言，由于軀體和經驗的差別，AGI既可能比人強也可能不如人。

AGI的實現需要新理論、新模型和新技術。當前主流AI基本上延循著智能就是問題解決能力這一思路而發展，所以其發展路線并未朝向AGI，從而也具有與AGI所不同的理論和實踐價值。

即使AGI已然實現，也不會導致一個奇點出現，以至于智能計算機系統變得完全無法理解、不可預知和無法控制。相反，AGI的實現意味著智能本質已為人所悉，這將進一步引導人們使用AGI來滿足人類的價值和需求。

AGI的研究還處于初期，因此各方高見皆有價值。但正所謂“大川歸道，百寶萬貨”，為了取得一個最低共識有必要澄清基本問題，以便避免驢唇不對馬嘴的情況出現。