在當(dāng)前關(guān)于“人工智能”（Artificial Intelligence，AI）與“奇點(diǎn)”（Singularity）的討論中，這兩個(gè)詞語的不同含義經(jīng)常不同程度地被混用，成為諸多分歧產(chǎn)生的根源之一。本文對(duì)這些含義進(jìn)行了辨析，進(jìn)而提出“通用人工智能”（Artificial General Intelligence，AGI）所代表的智能觀，認(rèn)為AGI可以存在，但奇點(diǎn)卻不會(huì)出現(xiàn)。

近年來深度學(xué)習(xí)進(jìn)展神速，令“計(jì)算機(jī)能否比人更聰明”再度成為熱點(diǎn)話題。在這類討論中存在兩種截然相反的觀點(diǎn)：“無限論”者認(rèn)為，從人工智能已取得的成果上一看便知，沒有人工智能做不了的事情；“有限論”者則認(rèn)為人工智能不可能真有多少智能，所以做不了很多事情。在我們看來，二者的論證皆有概念混淆的問題。下面我們從概念分析開始，希望在這團(tuán)亂麻中理出些頭緒，也為這炎炎夏日的火熱論爭帶來一絲清涼。本文是我們一篇英文論文[1]的縮寫版。

人工智能（AI）與通用人工智能（AGI）

“人工智能（AI）”沒有公認(rèn)的嚴(yán)格定義，盡管簡而言之，這項(xiàng)研究是試圖“讓計(jì)算機(jī)像人腦一樣工作”。盡管聽上去似乎直截了當(dāng)，這種看法實(shí)際上要求AI在某些方面與人類智能相似（甚至相同）。由于計(jì)算機(jī)既非生物有機(jī)體，也不可能過和人類一模一樣的生活，故而期望人工智能與人類智能在所有方面都完全一樣顯然是不切實(shí)際的。但這是個(gè)自明的“潛假設(shè)”，很少被明確提及。其結(jié)果是當(dāng)人們關(guān)注人類智能的不同方面時(shí)，提出和遵從的AI范式彼此迥異，其目標(biāo)、需求、假設(shè)、路徑和應(yīng)用均大相徑庭。

在相關(guān)討論中，至少存在三種不同見解：

1、認(rèn)為“AI”應(yīng)該行為表現(xiàn)與人完全一致。

2、認(rèn)為“AI”應(yīng)該能夠解決某些過去只有人腦才能解決的問題。

3、認(rèn)為“AI”應(yīng)該具有與人相同的認(rèn)知功能。

在后面的討論中，它們將分別被稱為AI-1、AI-2和AI-3。就AI-1而言，最廣為人知的形式莫過于一個(gè)能夠通過圖靈測試的計(jì)算機(jī)系統(tǒng)。由于通俗易懂，這種AI經(jīng)常出現(xiàn)在科幻小說和電影中。在公眾看來，這就是“AI”的含義。但事實(shí)上，這基本上不是人工智能領(lǐng)域的研究目標(biāo)。

在AI研究的初期（上個(gè)世紀(jì)中葉），絕大多數(shù)研究者的確都試圖創(chuàng)建在各方面均可與人類心智相媲美（盡管未必完全相同）的“思維機(jī)器”。然而，對(duì)這一目標(biāo)的所有直接嘗試均宣告失敗。于是，主流AI研究者將“AI”重新詮釋為AI-2，即在某一特定應(yīng)用或認(rèn)知功能上達(dá)到人類水平。常規(guī)AI教科書中幾乎所有的內(nèi)容都成為了AI-2的腳注，就連新近增補(bǔ)的深入學(xué)習(xí)和其他機(jī)器學(xué)習(xí)算法也無出其右。

盡管AI-2取得了令人矚目的成就，業(yè)界內(nèi)外的許多人仍然覺得這種系統(tǒng)其實(shí)更接近傳統(tǒng)計(jì)算而非一般意義的智能。這也正是十幾年前需要引入“通用人工智能（AGI）”這個(gè)新詞的原因。盡管這類研究項(xiàng)目實(shí)際上從AI之初便一直存續(xù)至今，但是當(dāng)主流AI已經(jīng)在這個(gè)招牌下從事不同的經(jīng)營活動(dòng)之后，給這個(gè)目標(biāo)取個(gè)新名字就成為必要的了。AGI將“智能”視為一種一般能力，而主流AI則將其視作多種具體能力的松散集合。因此，AGI更接近于前述AI-3。

許多人用“強(qiáng)AI”稱呼AI-1和AI-3（以及AGI），而用“弱AI”指AI-2。雖然這個(gè)區(qū)分有其直觀吸引力，很多AGI研究者通常并不用“強(qiáng)AI”來稱呼自己的研究工作。理由一是避免該對(duì)語詞背后潛藏著的哲學(xué)預(yù)設(shè)（“強(qiáng)AI”和“弱AI”的差別原本就不體現(xiàn)在外部功能上，而是系統(tǒng)是否有“內(nèi)省”能力），二是AI-2與AI-3的主要區(qū)別不在于“能力的強(qiáng)弱”，而在于“適用的范圍”。對(duì)某一確定性問題而言，專用方案的能力往往強(qiáng)于通用方案。因此，期望AI-2的技術(shù)變得“更強(qiáng)大”而最終躍升為AI-3是不現(xiàn)實(shí)的，因?yàn)槎叩脑O(shè)計(jì)源自根本不同的出發(fā)點(diǎn)。換言之，將現(xiàn)有AI-2技術(shù)捆綁整合而成為AI-3系統(tǒng)的想法是不會(huì)實(shí)現(xiàn)的。

此外，AI-1側(cè)重于系統(tǒng)的外在行為，而AI-3則側(cè)重于其內(nèi)部功能，但“強(qiáng)AI”這個(gè)概念卻無法區(qū)分AI-1和AI-3。盡管有理由認(rèn)為“行為表現(xiàn)與人腦完全一致的計(jì)算機(jī)系統(tǒng)”（AI-1）大約依賴于“與人類心智相同的認(rèn)知功能”（AI-3），但反過來卻未必成立。系統(tǒng)的行為（或其“輸出”）不僅取決于內(nèi)部的處理機(jī)制和功能，還依賴于系統(tǒng)的“輸入”（可粗略稱其為“經(jīng)驗(yàn)”）。因此，“類人”的認(rèn)知機(jī)制如果被給予“非人”的經(jīng)驗(yàn)，其行為也不會(huì)像人。這就好比在輸入值差別很大的情況下，即使兩個(gè)數(shù)學(xué)函數(shù)幾乎等同，但其輸出值也可能有著天壤之別。

那么，為何不能給AGI人類的經(jīng)驗(yàn)?zāi)兀吭瓌t上，人類感官及感知過程均可能被計(jì)算設(shè)備模擬到任意精度，但這在實(shí)際上卻不太可能。以視覺為例：每種光感受器都應(yīng)具有一定的靈敏度、解析度、反應(yīng)時(shí)等等。人眼如此，其它動(dòng)物的眼或各種電子感光設(shè)備也莫不如此。因此，“讓計(jì)算機(jī)有視覺”和“讓計(jì)算機(jī)有和人類完全一樣的視覺”是兩個(gè)難度相差懸殊的任務(wù)。

退一萬步講，即便能夠在所有細(xì)節(jié)上模擬人類的全部感官，也仍然只能得到某人的直接的物理經(jīng)驗(yàn)，依舊無法獲取從人際交流中得到的間接的社會(huì)經(jīng)驗(yàn)。因?yàn)樯鐣?huì)經(jīng)驗(yàn)的取得，需要計(jì)算機(jī)被其他人（或機(jī)器）視為人。這已然不是能否實(shí)現(xiàn)的技術(shù)問題，而是是否需要或值得去做的問題了。

為了便于討論，假設(shè)全體人類社會(huì)確實(shí)像對(duì)待人類一般來對(duì)待AGI系統(tǒng)；在這種情況下，AI-1是有可能實(shí)現(xiàn)的。然而，這是基于對(duì)“智能”高度的人類中心主義的解釋，其實(shí)它應(yīng)該被稱為“人工的人類智能”。用人類行為來刻畫智能會(huì)令其他非人智能（如“動(dòng)物智能”、“群體智能”、“外星智能”等）僅根據(jù)定義便成為不可能，僅僅因?yàn)樗鼈儾⒉痪哂蓄惾说妮斎牒洼敵觥?/p>

這種人類中心主義的“智能觀”總是作為隱含的預(yù)設(shè)立場而存在，卻幾乎未被明確地討論過。一個(gè)突出的例子便是將圖靈測試作為AI的操作性定義，盡管圖靈自己只是將其視為智能或思維的充分條件而非必要條件。圖靈本人寫道：“難道機(jī)器不能進(jìn)行一些與人不同卻可稱之為思維的活動(dòng)？這個(gè)反詰很有力，但至少我們可以說，如果能夠很好地應(yīng)對(duì)角色扮演任務(wù)的機(jī)器可以被造出來，我們就不必為這種反詰而煩惱”。這就是說，即使“行為像人”說明有智能，“行為不像人”也未必就是沒有智能。

在當(dāng)前AGI研究中，幾乎沒有人將目標(biāo)設(shè)定為建立AI-1系統(tǒng)；相反，將他們的工作視為某種AI-3的版本才更適合。他們認(rèn)為，“思維機(jī)器”或“通用智能”不僅和人類心智有可比性，甚至可能在某種抽象意義上完全相同，盡管未必是行為細(xì)節(jié)的全部等同。就像我們認(rèn)為魚和鳥有視覺但卻與人類之所見非常不同一樣，這種行為差異的存在并不意味著非人系統(tǒng)無法擁有真正的智能。

“奇點(diǎn)”（Singularity?）與通用人工智能（AGI）

“奇點(diǎn)”，也被稱為“技術(shù)奇點(diǎn)”，是另一個(gè)既無準(zhǔn)確含義也未被廣泛接受的概念。盡管常見于一些作品而為公眾所熟知，但實(shí)際上這并不是一個(gè)真正的計(jì)算機(jī)科學(xué)或技術(shù)術(shù)語。

“AI將導(dǎo)致奇點(diǎn)”這一觀點(diǎn)的典型表述可以分解為下列三個(gè)結(jié)論：

1、系統(tǒng)的智能水平可以表示為一個(gè)數(shù)值。

2、經(jīng)由學(xué)習(xí)或迭代改進(jìn)，AI能夠提升自己的智能水平。

3、當(dāng)AI的智能水平超越人類，它的整個(gè)未來將被我們視作一個(gè)單點(diǎn)，因?yàn)閺哪且院筮@個(gè)系統(tǒng)將超出人類的理解范圍。

當(dāng)然，有人也僅使用“奇點(diǎn)”一詞來指代“AI達(dá)到人類水平”或“計(jì)算機(jī)比人類更聰明”這個(gè)時(shí)間節(jié)點(diǎn)，而不做其他假設(shè)。接下來，我們將聚焦于上述典型表述，因?yàn)楫?dāng)它被分析之后，我們對(duì)其各種變體的看法也便一望而知了。

第一句話看似正確，畢竟一個(gè)“聰明”或“智慧”的系統(tǒng)應(yīng)該可以解決許多實(shí)際問題，而人們也總是利用各式測驗(yàn)和檢測來評(píng)估效果，比如人類自身便通常使用“智商”（IQ）來衡量智力水平。盡管為通用系統(tǒng)的問題解決能力的找到一個(gè)恰當(dāng)?shù)亩攘拷^非易事，但為方便討論，我們假設(shè)可以確立這樣的一個(gè)度量S，代表系統(tǒng)在解題能力上所得的“分?jǐn)?shù)”。即使如此，我們也不認(rèn)為這是一個(gè)衡量系統(tǒng)“智能”的正確標(biāo)準(zhǔn)，因?yàn)樗耆懦藭r(shí)間因素。在通常意義下，人們往往把“智能”與后天習(xí)得的解決問題能力相聯(lián)系，而非先天擁有的問題解決能力。出于這個(gè)原因，在某一給定時(shí)刻t，系統(tǒng)的智能應(yīng)該用該時(shí)刻增速S'(t)而非S(t)來衡量，也就是說，智能水平不是指系統(tǒng)在此刻能解決多少實(shí)際問題，而是指其解題能力在此刻的增長速度。

圖1 時(shí)間t與總分S的四種不同關(guān)系

圖1更為直觀地展示出S(t)和S'(t)之間的差異。就當(dāng)前的討論而言，就其所能解決的問題的數(shù)量S與時(shí)間t的關(guān)系可區(qū)分出四類不同的系統(tǒng)：

藍(lán)線對(duì)應(yīng)于一個(gè)完全沒有學(xué)習(xí)能力的系統(tǒng)。系統(tǒng)能力完全由先天因素確定，即S'(t) = 0。所有傳統(tǒng)的計(jì)算系統(tǒng)都屬于這一類，盡管其中一些被人們視為“AI”。

紫線對(duì)應(yīng)于一個(gè)學(xué)習(xí)能力有限的系統(tǒng)。此類系統(tǒng)中S'(t) > 0，但最終收斂至0。絕大多數(shù)的機(jī)器學(xué)習(xí)算法都屬于該類。

綠線對(duì)應(yīng)于一個(gè)學(xué)習(xí)能力基本恒定的系統(tǒng)。此時(shí)，S'(t)是一個(gè)正常數(shù)。包括我們團(tuán)隊(duì)在內(nèi)的許多AGI項(xiàng)目都屬于這種類型。

紅線對(duì)應(yīng)于一個(gè)學(xué)習(xí)能力本身在增長的系統(tǒng)，其S(t)和S'(t)均呈指數(shù)遞增。我們認(rèn)為這樣的系統(tǒng)并不存在，在此僅將其作為一種可能性列出來。

粗略地說，這里的 S(t) 表示“解決問題的能力”，S'(t) 則表示“學(xué)習(xí)的能力”，“能夠解決多少問題”與“能夠?qū)W到多少東西”并不直接相關(guān)。如圖1所示，取決于其中的常量和測量的時(shí)刻，四種類型中的任意一種都可能成為問題解決能力最強(qiáng)者，但其學(xué)習(xí)能力卻各不相同，由弱至強(qiáng)可排序?yàn)椋核{(lán)線 < 紫線 < 綠線 < 紅線。

我們認(rèn)為，智能水平應(yīng)由S'(t) 而非S(t) 來刻畫，盡管這與當(dāng)前主流觀點(diǎn)不同，但事實(shí)上這種理解不僅更加符合“智能”一詞的深層含義，也有助于開創(chuàng)AI研究的新局面。

上述結(jié)論與人類智商（IQ）的衡量方式其實(shí)并不沖突，雖然智商測試的直接目標(biāo)上是問題解決能力。智商是人的“心智年齡”（由測試分?jǐn)?shù)給出）除以所在年齡段之商。在人們先天的問題解決能力S(0) 并無明顯差異的情況下，更高的S(t) 值意味著更高的S'(t) 值，所以可以用IQ來衡量某人的學(xué)習(xí)效能與他人的差異。然而，這對(duì)于AI系統(tǒng)卻不能成立，因?yàn)椴煌挠?jì)算機(jī)系統(tǒng)可以有差異極大的S(0)值，取決于它們不同的設(shè)計(jì)與配置。

盡管在AI研發(fā)過程中“學(xué)習(xí)”往往與“問題解決”被置于同一層面，但“學(xué)習(xí)是智能的核心”的見解卻早已有之。按照我們的理論，各類問題解決能力處于“對(duì)象層次”，而學(xué)習(xí)能力則是處于“元層次”。正如前面“AI與AGI”比較中所提及的，這一差異開啟了另一扇窗：主流AI研究把智能視為解決特定問題的能力，由于不同的問題具有不同的問題特征，其解決方案也因此不同。相反，AGI關(guān)注的是獨(dú)立于具體領(lǐng)域的“元問題”。其實(shí)，這兩種方法既不重疊也非競爭，而是互補(bǔ)的。“綠線族”便是個(gè)很好的例子，這類系統(tǒng)將其元層次的知識(shí)和操作看做“智能”（主要來自系統(tǒng)先天預(yù)設(shè)），而將其對(duì)象層次的知識(shí)和操作視為“信念和技能”（主要來自系統(tǒng)后天經(jīng)驗(yàn)）。當(dāng)我們說此類系統(tǒng)達(dá)到“人類水平”時(shí)，實(shí)際上意指其元知識(shí)和元操作與人類的相類似，不論對(duì)象層的信念和技能和人有多大程度的重合。

在AI系統(tǒng)中元知識(shí)的習(xí)得并非不可能，但有幾個(gè)重要問題卻很少在相關(guān)討論中被提及：

許多AI系統(tǒng)中雖然存在著“對(duì)象層次”和“元層次”之別，但其具體邊界取決于系統(tǒng)的設(shè)計(jì)，所以某系統(tǒng)元層次上的學(xué)習(xí)可能對(duì)應(yīng)于另一系統(tǒng)對(duì)象層次上的學(xué)習(xí)。

有的“元學(xué)習(xí)”算法用窮舉嘗試找尋最優(yōu)解，但考慮其所消耗的時(shí)空資源及潛在風(fēng)險(xiǎn)，這種做法其實(shí)并不可取。

一個(gè)常見的誤解是將“遞歸式的自我改進(jìn)”與“系統(tǒng)修改自身源代碼”相等同。對(duì)于Lisp和Prolog這樣的編程語言，自身源代碼修改和函數(shù)生成其實(shí)早已實(shí)現(xiàn)；但是，這些技術(shù)的實(shí)際使用并不會(huì)造成革命性的后果，因?yàn)槠渌幊陶Z言也可以通過對(duì)某些數(shù)據(jù)的修改而實(shí)現(xiàn)同樣的效果。請(qǐng)注意，“程序”與“數(shù)據(jù)”二者之間并無理論鴻溝，只是應(yīng)用解釋有別而已。

由于現(xiàn)有的機(jī)器學(xué)習(xí)技術(shù)是為對(duì)象層任務(wù)而設(shè)計(jì)的，因此對(duì)學(xué)習(xí)元知識(shí)并不能勝任。人類的大腦也是如此：作為一個(gè)個(gè)體，我們的心理機(jī)制大多是先天形成，只能通過有限的方式緩慢地加以調(diào)整。只有在規(guī)模上升到物種層面的討論時(shí)，人類才會(huì)借由進(jìn)化而“學(xué)習(xí)”，但付出的代價(jià)卻是更慢的速度和更高的風(fēng)險(xiǎn)（對(duì)個(gè)體而言，不佳的改變往往致命）。于是，最好將群際內(nèi)的元學(xué)習(xí)過程稱為“進(jìn)化”，而為個(gè)體對(duì)象層的學(xué)習(xí)過程保留“智能”一詞。

時(shí)至今日，我們依然沒有看到任何說明“紅線族”系統(tǒng)可能存在的確實(shí)證據(jù)。雖然奇點(diǎn)的支持者經(jīng)常把“指數(shù)增長”現(xiàn)象的存在掛在嘴邊，其證據(jù)也不是關(guān)于一個(gè)能夠自我改進(jìn)的獨(dú)立系統(tǒng)中的。縱然“智能”是一個(gè)程度的問題，也沒有證據(jù)表明智能在“人類水平”之上依舊可以無限提升。“超人智能”往往是對(duì)應(yīng)于“低于人類水平的智能”的一種類比，而這里的“智能水平”既包括對(duì)象層因素也包括元層次因素。在這里，S(t)值顯然可以通過知識(shí)、技能或計(jì)算資源任意的增長而提高，但“超人智能”和高S(t)值不是一回事。在元層次上，“超人智能”意味著一種完全不同的思維機(jī)制，能夠更好地滿足適應(yīng)的目的。當(dāng)然我們不能否認(rèn)這種可能性，但確實(shí)沒有看到任何證明其可能存在的證據(jù)。

計(jì)算機(jī)能比人類更聰明嗎？如果“更聰明”是指更高的問題解決能力的話，那么這在很多領(lǐng)域中早已發(fā)生了。計(jì)算機(jī)在很多方面都比人做得好，卻尚不足冠以“智能”之冕，不然連數(shù)值計(jì)算和排序算法也都能算作其所在領(lǐng)域的智能標(biāo)兵了。引入“AGI”一詞的原因也正是要避免這種什么都算是“有智能”的局面。同樣，盡管“機(jī)器學(xué)習(xí)”的字面意思也包括了“綠線族”系統(tǒng)，而且機(jī)器學(xué)習(xí)領(lǐng)域一開始還是“百花齊放”，但現(xiàn)在“機(jī)器學(xué)習(xí)”一詞卻幾近等同為“統(tǒng)計(jì)學(xué)的函數(shù)擬合”，變得僅僅側(cè)重“紫線族”而已。故此，不得不用一個(gè)新的名稱來避免混淆。對(duì)“綠線族”或“紅線族”而言，S(t) 雖能夠提升至任意水平，甚至“比人類聰明”，但受到傳感器、動(dòng)作器及經(jīng)驗(yàn)所限，并不意味著在每一個(gè)問題都能比人做得更好。在這一問題上，“綠線族”和“紅線族”之間存在根本差別：由于“綠線族”內(nèi)部的元知識(shí)由其設(shè)計(jì)者指定，所以即使其S(t)值遠(yuǎn)高于人類水平，人們?nèi)匀荒軌蚶斫馑倪\(yùn)行原理及基本工作過程。而相反，如若果真存在某個(gè)“紅線族”系統(tǒng)，它將在某個(gè)時(shí)間點(diǎn)之后讓人連它是如何工作都變得無法理解。

既然不相信“紅線族”能夠存在，我們也不認(rèn)為“奇點(diǎn)”可能發(fā)生。但是，我們卻堅(jiān)信可媲美人類心智的AGI系統(tǒng)是能夠創(chuàng)建出來。這種系統(tǒng)在元層次上的能力與人類大致相等（不高也不低但未必完全相同），而在對(duì)象層次上的能力則可高于人類（指總分，而非每項(xiàng)任務(wù)）。這些AGI系統(tǒng)仍舊可以經(jīng)由人類或自身來持續(xù)改進(jìn)，但不會(huì)突現(xiàn)一個(gè)機(jī)制全然不同的“超人智能”。

總結(jié)：AGI是等同于人類的計(jì)算機(jī)系統(tǒng)，無需處處一致

因此，我們的智能觀是：

AGI將是在原理、機(jī)制和功能上與人類智能相似的計(jì)算機(jī)系統(tǒng)，卻不必然非得在內(nèi)部結(jié)構(gòu)、外部行為或問題解決能力上與人一致。作為另一種智力形式，AGI將具有與人類大致相同的智能水平，既不會(huì)過不高也不會(huì)過低。對(duì)于具體的問題解決能力而言，由于軀體和經(jīng)驗(yàn)的差別，AGI既可能比人強(qiáng)也可能不如人。

AGI的實(shí)現(xiàn)需要新理論、新模型和新技術(shù)。當(dāng)前主流AI基本上延循著智能就是問題解決能力這一思路而發(fā)展，所以其發(fā)展路線并未朝向AGI，從而也具有與AGI所不同的理論和實(shí)踐價(jià)值。

即使AGI已然實(shí)現(xiàn)，也不會(huì)導(dǎo)致一個(gè)奇點(diǎn)出現(xiàn)，以至于智能計(jì)算機(jī)系統(tǒng)變得完全無法理解、不可預(yù)知和無法控制。相反，AGI的實(shí)現(xiàn)意味著智能本質(zhì)已為人所悉，這將進(jìn)一步引導(dǎo)人們使用AGI來滿足人類的價(jià)值和需求。

AGI的研究還處于初期，因此各方高見皆有價(jià)值。但正所謂“大川歸道，百寶萬貨”，為了取得一個(gè)最低共識(shí)有必要澄清基本問題，以便避免驢唇不對(duì)馬嘴的情況出現(xiàn)。