我們今天熟知的通用人工智能概念，始于紐約百老匯大道上一個(gè)失敗的互聯(lián)網(wǎng)公司。 這家公司名為 Webmind。20 年前，現(xiàn)任 DeepMind 首席科學(xué)家肖恩?萊格曾在此工作，公司老板是 AI 專家本?戈策爾。后來(lái)，萊格與德米斯?哈薩比斯、穆斯塔法?蘇萊曼一起創(chuàng)立 DeepMind。四年以后，谷歌以 5 億多美元買下這家公司?，F(xiàn)在，就人工智能的未來(lái)而言，萊格與戈策爾分別代表兩個(gè)分支，但這兩個(gè)分支同宗同源。

即便當(dāng)時(shí)互聯(lián)網(wǎng)公司都風(fēng)頭正盛，Webmind 置身其中，依然稱得上是野心勃勃。戈策爾希望開(kāi)發(fā)出相當(dāng)于嬰兒認(rèn)知水平的數(shù)字大腦，將其放到互聯(lián)網(wǎng)上。他相信這一數(shù)字大腦將變得完全具有自我意識(shí)，并且超出人類水平。他在 1998 年對(duì)《基督教科學(xué)箴言報(bào)》表示：“我們正處于過(guò)渡階段，從規(guī)模上講相當(dāng)于新智能誕生、或新語(yǔ)言出現(xiàn)?！?Webmind 試圖開(kāi)發(fā)一個(gè)可以預(yù)測(cè)金融市場(chǎng)行為的工具，來(lái)為自己籌集資金，但這個(gè)夢(mèng)想沒(méi)有實(shí)現(xiàn)。在花光了 2000 萬(wàn)美元之后，Webmind 關(guān)閉了辦公室，停止給員工發(fā)薪，并于 2001 年申請(qǐng)破產(chǎn)。

不過(guò)，萊格和戈策爾一直保持著聯(lián)系。幾年后，戈策爾編撰了一本有關(guān)超級(jí) AI 的論文集，正是萊格幫他取了書名。據(jù)萊格回憶，當(dāng)時(shí)他告訴戈策爾，“如果這是關(guān)于 AI 尚不具備的普遍功能，我們應(yīng)該稱其為通用人工智能（下文簡(jiǎn)稱 AGI）?！?AGI 一詞從此誕生，并沿用至今。 后來(lái)人們經(jīng)常用 AGI 指代和人類相似的 AI 或者超級(jí) AI。但人們最常抱怨的也是 AGI 這個(gè)詞。Facebook 的 AI 負(fù)責(zé)人杰羅姆?佩森蒂就說(shuō)過(guò)：“我不喜歡這個(gè)詞，我不懂這個(gè)名字到底代表什么?！? 人們往往以為，AGI 代表著機(jī)器意識(shí)或者會(huì)思考的機(jī)器人。

雖然許多支持 AGI 的人確實(shí)抱有如此夢(mèng)想，但其實(shí) AGI 更多是關(guān)于拓寬思考維度。如果我們研究出思維水平和人類相當(dāng)甚至優(yōu)于人類的機(jī)器，而且這些機(jī)器思考速度很快、從不疲倦的話，那么解決現(xiàn)有問(wèn)題會(huì)更有勝算。在 1965 年，計(jì)算機(jī)科學(xué)家古德便說(shuō)：“只要發(fā)明出來(lái)第一臺(tái)超智能機(jī)器，人類便能一勞永逸?！?埃隆?馬斯克早期曾投資 DeepMind。他的預(yù)測(cè)總令人瞠目結(jié)舌，但是成千上萬(wàn)的人都在關(guān)注他說(shuō)了什么。幾個(gè)月前，他告訴《紐約時(shí)報(bào)》，五年內(nèi)，我們就能研發(fā)出超級(jí) AI。 5 月，佩森蒂對(duì)此作出回?fù)簟?br />
他發(fā)推文稱：“馬斯克就是在瞎扯。沒(méi)有 AGI 這樣的東西，我們要過(guò)很久才能開(kāi)發(fā)出比得上人類的智能。” 馬斯克回復(fù)：“Facebook 垃圾?！? 如此針鋒相對(duì)并不罕見(jiàn)。百度前 AI 負(fù)責(zé)人、Google Brain 聯(lián)合創(chuàng)始人吳恩達(dá)說(shuō)：“別在 AGI 上浪費(fèi)口舌了，還是先處理好緊急問(wèn)題吧。” 紐約大學(xué) AI 研究人員朱利安?托格里烏斯說(shuō)：“相信 AGI 就像相信魔術(shù)一樣。這是在放棄理性思考，這是在對(duì)無(wú)法理解的事物表達(dá)希望或者恐懼?！?在推特上搜索 “#noAGI” 話題，會(huì)發(fā)現(xiàn)許多 AI 權(quán)威人士都參與了討論。其中便有 Facebook 首席 AI 科學(xué)家揚(yáng)?勒昆，他于 2018 年獲得了圖靈獎(jiǎng)。

但隨著 AlphaZero 取得棋盤游戲冠軍，GPT-3 生成的文本讓人們相信它們出自人類之手，這些進(jìn)步又激起有關(guān) AGI 的熱議。即便 AlphaZero 不會(huì)編寫故事，GPT-3 不會(huì)下棋，它們更無(wú)法論證寫故事和下棋為何重要，這些工具離 “通用人工智能” 依舊差得很遠(yuǎn)，但是研發(fā) AGI 的目標(biāo)再次變得可以接受，即使它們看起來(lái)依然很瘋狂。

一些大規(guī)模 AI 實(shí)驗(yàn)室非?？粗剡@個(gè)目標(biāo)。OpenAI 表示，希望首先開(kāi)發(fā)出具有人類推理能力的機(jī)器。DeepMind 雖然沒(méi)有公開(kāi)承認(rèn)，但一直在重復(fù)自己的使命為 “攻克智能”。兩家公司的高層人士都愿意從 AGI 角度出發(fā)討論這些目標(biāo)。 萊格說(shuō)：“在 21 世紀(jì)頭幾年講 AGI，大家會(huì)覺(jué)得你瘋了。甚至在 2010 年我們創(chuàng)立 DeepMind 的時(shí)候，去開(kāi)會(huì)時(shí)還特別多人一臉不屑?！?但現(xiàn)在變了，“有些人還是不喜歡它，但 AGI 勢(shì)不可擋?！? 那么，為什么 AGI 會(huì)引起爭(zhēng)議？為什么 AGI 如此重要？它是一個(gè)不顧后果的誤導(dǎo)方向？還是人工智能的最終目標(biāo)？ 什么是 AGI？

這個(gè)詞已經(jīng)流行了十多年了，但是它所概括的想法已經(jīng)跨越了一代人的時(shí)間。 1956 年夏天，十幾位科學(xué)家在美國(guó)新罕布什爾州的達(dá)特茅斯學(xué)院相聚，一起做了個(gè) “小” 研究項(xiàng)目。人工智能先驅(qū)約翰?麥卡錫、馬文?明斯基、納特?羅切斯特和克勞德?香農(nóng)率先宣傳了這個(gè)項(xiàng)目，并寫道：“該研究基于下列推測(cè)：原則上，我們可以精確描述學(xué)習(xí)的各個(gè)方面或智能的任何特征，并且能夠制造一臺(tái)機(jī)器來(lái)模擬。該研究將嘗試教會(huì)機(jī)器使用語(yǔ)言、有抽象能力、形成概念，能解決現(xiàn)在人類所面臨的各種問(wèn)題，并且機(jī)器會(huì)自我改進(jìn)?！?br />
科學(xué)家們認(rèn)為，如有 10 人參與，兩個(gè)月便能完成項(xiàng)目。 到 1970 年，明斯基又大膽表示：“在三到八年內(nèi)，我們將擁有一臺(tái)與普通人類智慧相當(dāng)?shù)臋C(jī)器。也就是說(shuō)，這臺(tái)機(jī)器可以閱讀莎士比亞的戲劇，給汽車加油，諳熟辦公室規(guī)則，講笑話，打架。那時(shí)，機(jī)器將開(kāi)始以驚人的速度進(jìn)行自我改進(jìn)。再過(guò)幾個(gè)月，它將達(dá)到天才的水平。再過(guò)幾個(gè)月，它的力量將不可估量?！? 在這些關(guān)于 AI 的愿景中，有三點(diǎn)引人注目：接近人類水平的歸納能力、超快的自我改進(jìn)能力（呈指數(shù)級(jí)增長(zhǎng)）、極強(qiáng)的想象能力。但半個(gè)世紀(jì)以來(lái)，我們?nèi)匀粺o(wú)法創(chuàng)造出具有人類多任務(wù)處理能力的 AI，現(xiàn)在 AI 的多任務(wù)處理能力甚至都比不上昆蟲。

但也并非沒(méi)有傲人成就?，F(xiàn)在的機(jī)器可以使用語(yǔ)言、有視覺(jué)、能解決許多問(wèn)題，已經(jīng)實(shí)現(xiàn)了當(dāng)初不少目標(biāo)。但如今的 AI 并不是先驅(qū)者想象的那樣接近人類水平。深度學(xué)習(xí)推動(dòng)了 AI 蓬勃發(fā)展，能訓(xùn)練機(jī)器掌握寫故事、下棋等能力，但 AI 無(wú)法同時(shí)做多件事。 有時(shí)，萊格將 AGI 視為多功能工具，認(rèn)為 AGI 可以解決許多不同問(wèn)題，可以不必為每一項(xiàng)挑戰(zhàn)都設(shè)計(jì)一個(gè)新的 AI。按照這種觀點(diǎn)，AGI 不會(huì)比 AlphaGo 或 GPT-3 更智能，而是會(huì)掌握更多功能。AGI 將是通用 AI，而不是高度發(fā)展的智能。但是萊格還認(rèn)為，人類可以與 AGI 交際，就好像它也是人類。

他所描述的機(jī)器像是玩伴：如果可以與機(jī)器互動(dòng)，給機(jī)器展示新的紙牌游戲，教機(jī)器玩，機(jī)器會(huì)問(wèn)問(wèn)題，然后一起玩游戲，那可太美了?！拔业膲?mèng)想成真了。” 他說(shuō)。 當(dāng)人們談?wù)撏ㄓ萌斯ぶ悄軙r(shí)，通常會(huì)想到的是這些類似于人的能力。但稱其 “類似于人類”，既含糊又過(guò)于具體。人類是我們所擁有的通用智能的最佳典范，但人類也高度專業(yè)化。想一下動(dòng)物智能的領(lǐng)域：從螞蟻的集體認(rèn)知到烏鴉或章魚解決問(wèn)題的技能，到更容易識(shí)別但仍不可知的黑猩猩的智能，這些都顯示出建立通用智能的方法有很多。

即便我們的確構(gòu)建了通用人工智能，可能也無(wú)法完全理解它。當(dāng)今的機(jī)器學(xué)習(xí)模型通常是 “黑匣子”，這意味著它們獲取準(zhǔn)確結(jié)果的計(jì)算方式?jīng)]人可以理解。再加上能夠自我改進(jìn)的超級(jí)智能，所以這就是為什么科幻小說(shuō)經(jīng)常提供最簡(jiǎn)單的類比。 有些人也會(huì)將意識(shí)或感知帶入通用人工智能的要求中。但如果智能就很難下定義，意識(shí)就更難了。哲學(xué)家和科學(xué)家尚不清楚人類到底是什么，更不用說(shuō)計(jì)算機(jī)中的內(nèi)容了。智能可能需要某種程度的自我意識(shí)，能夠反思你對(duì)于世界的看法，但這并不一定與意識(shí)是同一回事，意識(shí)是體驗(yàn)世界的感覺(jué)或是反思自己對(duì)世界看法的感覺(jué)。即使 AGI 最忠實(shí)的信徒也不能了解機(jī)器意識(shí)。 如何才能研發(fā)出通用人工智能？

萊格在整個(gè)職業(yè)生涯中一直在追求智能。 在離開(kāi) Webmind 之后，他與瑞士盧加諾大學(xué)的馬庫(kù)斯?哈特合作了一篇博士學(xué)位論文 “機(jī)器超級(jí)智能”。哈特目前也在 DeepMind 工作。 兩人發(fā)布了通用智能的方程式，萊格將其描述為衡量在大多數(shù)情況下實(shí)現(xiàn)目標(biāo)的能力。他們表示，他們的數(shù)學(xué)定義與心理學(xué)中發(fā)現(xiàn)的許多智能理論相似，后者也從通用的角度定義了智能。 在 DeepMind，萊格將其理論變?yōu)閷?shí)際演示，從在特定環(huán)境中實(shí)現(xiàn)特定目標(biāo)（從游戲到蛋白質(zhì)折疊）的 AI 開(kāi)始。 接下來(lái)是棘手的部分：讓 AI 同時(shí)掌握多種能力。

深度學(xué)習(xí)是我們擁有的最通用的方法，因?yàn)橐环N深度學(xué)習(xí)算法可用于學(xué)習(xí)多個(gè)任務(wù)。AlphaZero 使用相同的算法來(lái)學(xué)習(xí)圍棋、將棋（日本的象棋游戲）和象棋。DeepMind 的雅達(dá)利 57 系統(tǒng)使用相同的算法來(lái)掌握每個(gè)雅達(dá)利電子游戲。但人工智能一次仍然只能學(xué)習(xí)一件事。掌握了象棋之后，AlphaZero 必須擦除其記憶，并從頭開(kāi)始學(xué)習(xí)將棋。 萊格將這種通用性稱為 “只學(xué)一件事算法”，它與人類具有的 “唯一大腦” 不同。

他認(rèn)為，總體來(lái)說(shuō)，“只學(xué)一件事算法” 非常有用，但是卻不如 “唯一大腦” 那么有趣。因?yàn)槿祟惒恍枰袚Q大腦，我們?cè)谕嫦笃宓臅r(shí)候不需要換上負(fù)責(zé)象棋的大腦。 把 “只學(xué)一件事算法” 轉(zhuǎn)變?yōu)?“唯一大腦”，這是人工智能面臨的最大挑戰(zhàn)之一。而且，擁有 “唯一大腦” 的人工智能仍然不是真正的智能，只是一個(gè)更好的 AGI—— 萊格的多功能工具而已。但無(wú)論是否要以 AGI 為目標(biāo)，研究人員都認(rèn)為當(dāng)今的系統(tǒng)需要變得更加通用，對(duì)于那些以 AGI 為目標(biāo)的人來(lái)說(shuō)，一個(gè)有著更普遍目標(biāo)的人工智能是必不可少的第一步。有很多方法可能會(huì)有所幫助。從已經(jīng)出現(xiàn)的新興技術(shù)到更激進(jìn)的實(shí)驗(yàn)都有。按技術(shù)的成熟程度排序，它們是：

無(wú)監(jiān)督或自主監(jiān)督學(xué)習(xí)。標(biāo)記數(shù)據(jù)集（例如，用 “貓” 來(lái)標(biāo)記所有貓的圖片），以告訴人工智能在訓(xùn)練過(guò)程中它們看的是什么，這就是所謂監(jiān)督學(xué)習(xí)的關(guān)鍵。但大部分工作仍需人工完成，這成了主要瓶頸。人工智能需要能夠在沒(méi)有人類指導(dǎo)的情況下進(jìn)行自我學(xué)習(xí)，例如，看著貓和狗的圖片，并學(xué)會(huì)在沒(méi)有人類幫助的情況下將它們區(qū)分開(kāi)，或者不借助之前案例的標(biāo)簽就能發(fā)現(xiàn)金融交易中的異常情況。這就是所謂的無(wú)監(jiān)督學(xué)習(xí)，現(xiàn)在正在變得越來(lái)越常見(jiàn)。

轉(zhuǎn)移學(xué)習(xí)，包括少量樣本學(xué)習(xí)。如今，大多數(shù)深度學(xué)習(xí)模型訓(xùn)練一次只能做一件事情。轉(zhuǎn)移學(xué)習(xí)的目的是讓人工智能將一個(gè)任務(wù)的部分訓(xùn)練內(nèi)容（如下象棋）轉(zhuǎn)移到另一項(xiàng)任務(wù)（如下圍棋）中。這就是人類的學(xué)習(xí)方式。

常識(shí)和因果推理。如果人工智能具有常識(shí)性的基礎(chǔ)，那么在任務(wù)之間轉(zhuǎn)移訓(xùn)練內(nèi)容會(huì)比較容易。常識(shí)的關(guān)鍵部分是理解因果關(guān)系。目前，給人工智能賦予常識(shí)是一個(gè)熱門研究課題，其方法包括將簡(jiǎn)單規(guī)則編碼到神經(jīng)網(wǎng)絡(luò)中，以及限制人工智能可能做出的預(yù)測(cè)。但是該研究工作仍處于初期階段。

學(xué)習(xí)優(yōu)化器。這些工具可用于塑造人工智能的學(xué)習(xí)方式，指導(dǎo)它們更有效地進(jìn)行訓(xùn)練。最近的工作表明，這些工具本身可以自我訓(xùn)練 —— 實(shí)際上，這意味著一個(gè)人工智能可以用于訓(xùn)練其他人工智能。這可能是邁向自我完善人工智能，以及通用人工智能目標(biāo)的一小步。

所有這些研究領(lǐng)域都建立在深度學(xué)習(xí)之上，而這仍然是目前構(gòu)建人工智能的最有前途的方法。深度學(xué)習(xí)依賴于神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)通常被描述為類似于大腦的結(jié)構(gòu)，因?yàn)樗鼈兊臄?shù)字神經(jīng)元受到生物神經(jīng)元的啟發(fā)。人類的智能是我們擁有的通用智能的最好案例，因此，從人類自身尋找靈感是很有意義的。 但是，大腦不僅僅是一個(gè)龐大的神經(jīng)元鏈接網(wǎng)絡(luò)。它們擁有可以相互協(xié)作的獨(dú)立組件。 例如，哈薩比斯和萊格見(jiàn)面時(shí)，他正在研究處理記憶的海馬體。哈薩比斯認(rèn)為，人腦的通用智能部分來(lái)自于海馬體與皮質(zhì)之間的交互作用。

這個(gè)想法造就了 DeepMind 的雅達(dá)利游戲人工智能機(jī)器，它使用了海馬體啟發(fā)式算法，稱為 DNC（差分神經(jīng)計(jì)算機(jī)），該算法將神經(jīng)網(wǎng)絡(luò)與專用內(nèi)存組件結(jié)合在一起。 像 DNC 之類的人造大腦組件有時(shí)被稱為認(rèn)知架構(gòu)。它們也在其他 DeepMind 的人工智能中發(fā)揮作用，例如 AlphaGo 和 AlphaZero，它們將兩個(gè)獨(dú)立的專用神經(jīng)網(wǎng)絡(luò)與搜索樹（一種較老的算法形式）結(jié)合在一起，有點(diǎn)像決策流程圖。像 GPT-3 這樣的語(yǔ)言模型將神經(jīng)網(wǎng)絡(luò)與更專業(yè)的神經(jīng)網(wǎng)絡(luò)（變壓器）結(jié)合在一起，后者能處理諸如文本之類的數(shù)據(jù)序列。

最終，所有可以建立通用人工智能的方法都?xì)w結(jié)為兩個(gè)廣泛的思想流派。一種是，如果算法正確，你可以隨意選擇喜歡的認(rèn)知架構(gòu)來(lái)開(kāi)發(fā)它們。像 OpenAI 這樣的實(shí)驗(yàn)室似乎支持這種方法，它們建立了越來(lái)越大的機(jī)器學(xué)習(xí)模型，這些模型可以通過(guò)簡(jiǎn)單粗暴的手段實(shí)現(xiàn)通用人工智能。 另一個(gè)流派認(rèn)為，對(duì)深度學(xué)習(xí)的關(guān)注在拖后腿。如果通用人工智能的關(guān)鍵是弄清楚人造大腦的各個(gè)組件應(yīng)該如何協(xié)同工作，那么過(guò)多地關(guān)注組件本身（即深度學(xué)習(xí)算法）就等于見(jiàn)樹不見(jiàn)林。正確構(gòu)建認(rèn)知架構(gòu)，會(huì)讓研究人員幾乎可以在之后再考慮插入算法。

這是戈策爾所喜歡的方法，他的 OpenCog 項(xiàng)目試圖構(gòu)建一個(gè)開(kāi)放源代碼平臺(tái)，將不同部分整合到通用人工智能整體中。DeepMind 為了 AlphaGo 結(jié)合神經(jīng)網(wǎng)絡(luò)和搜索樹時(shí)，也探索了這一方法。 “我個(gè)人的感覺(jué)介于兩者之間?！?萊格說(shuō)，“我懷疑只有非常少量的精心設(shè)計(jì)的算法才可以組合在一起，使 AGI 真正強(qiáng)大?！? 戈策爾并不同意。

他說(shuō)：“谷歌和 DeepMind 對(duì)通用人工智能的深入思考給我留下了深刻的印象（兩家公司現(xiàn)在都?xì)w Alphabet 所有），如果有任何一家大公司會(huì)創(chuàng)造出通用人工智能，那肯定就是他們?！? 但是也不要抱太大希望。由于幾十年來(lái)低估了這一挑戰(zhàn)，除了馬斯克之外，幾乎沒(méi)有其他人愿意猜測(cè)通用人工智能何時(shí)會(huì)出現(xiàn)。即使戈策爾也不會(huì)冒險(xiǎn)為他的目標(biāo)設(shè)定一個(gè)特定的時(shí)間，他只是會(huì)說(shuō)快了。毫無(wú)疑問(wèn)，快速發(fā)展的深度學(xué)習(xí)（尤其是 GPT-3）因?yàn)槟７铝四承┤祟惖哪芰Χ岣吡舜蠹业钠谕?。但是模仿不是智能。AGI 未來(lái)的發(fā)展道路上仍然有很大的障礙，研究人員仍然沒(méi)有深入了解它們，更不用說(shuō)解決這些問(wèn)題了。 “但是，如果我們繼續(xù)快速前進(jìn)，誰(shuí)知道未來(lái)會(huì)發(fā)生什么呢？” 萊格認(rèn)為，在未來(lái)幾十年內(nèi)，可能會(huì)出現(xiàn)一些非常強(qiáng)大的系統(tǒng)。 為什么 AGI 備受爭(zhēng)議？

沒(méi)人知道如何開(kāi)發(fā) AGI 的部分原因是，幾乎沒(méi)有人對(duì)它的定義能達(dá)成一致。不同的方法反映了研究人員的不同目標(biāo)，有些人希望能研發(fā)出多功能工具，有些人則希望能制造出一個(gè)超人。在讓人工智能更通用的方向上，我們邁出了一小步，但一個(gè)能夠解決不同問(wèn)題的通用工具，和一個(gè)能夠解決人類無(wú)法解決的問(wèn)題的工具之間存在著巨大的鴻溝?！叭斯ぶ悄茴I(lǐng)域取得了巨大進(jìn)步，但這并不意味著 AGI 領(lǐng)域也有進(jìn)步，” 吳恩達(dá)表示。 由于所有人都沒(méi)有證據(jù)表明 AGI 是否可以實(shí)現(xiàn)，這就變成了一個(gè)信仰問(wèn)題。托格里烏斯說(shuō):“這些爭(zhēng)論毫無(wú)意義?！?br />
戈策爾不覺(jué)得爭(zhēng)議是什么大問(wèn)題?！皟蛇叾加袠O端的人，” 他說(shuō)，“但也有很多溫和派，而溫和派往往不會(huì)喋喋不休。” 戈策爾把像吳恩達(dá)這樣的 AGI 懷疑論者放在一端，把他自己放在另一端。從他在 Webmind 開(kāi)始工作時(shí)，就以 AGI 邊緣組織的名義向媒體示好。2014 年至 2018 年，他還擔(dān)任了香港漢森機(jī)器人技術(shù)公司的首席科學(xué)家。2016 年，這家公司推出了會(huì)說(shuō)話的人形機(jī)器人索菲亞。比起前沿研究，索菲亞更像是主題公園的人體模特，它為戈策爾贏得了世界各地的新聞?lì)^條。但就連他自己也承認(rèn)，索菲亞只是一個(gè) “展示類機(jī)器人”，而不是人工智能。

戈策爾獨(dú)特的作秀風(fēng)格讓許多認(rèn)真的人工智能研究人員與他保持距離。 他把蒙特利爾大學(xué)的人工智能研究員約舒亞?本喬這樣的人算成溫和派。本喬與揚(yáng)?勒昆和杰弗里?辛頓在 2018 年共同獲得了圖靈獎(jiǎng)。在 2014 年 AGI 會(huì)議的一場(chǎng)主題演講中，本喬表示，構(gòu)建一個(gè)具有人類水平的人工智能是可能的，因?yàn)槿四X也是一個(gè)機(jī)器，我們只需要弄清楚關(guān)于這個(gè)機(jī)器的謎題。但是他并不相信超級(jí)智能 —— 一種超越人類思維的機(jī)器。不管怎樣，他認(rèn)為，除非我們找到一種方法讓計(jì)算機(jī)有常識(shí)和因果推理能力，否則 AGI 是無(wú)法實(shí)現(xiàn)的。 然而，吳恩達(dá)堅(jiān)稱他并不反對(duì) AGI。

“我認(rèn)為 AGI 非常有吸引力，我很想去探究這個(gè)領(lǐng)域，” 他說(shuō)，“如果我有很多空閑時(shí)間，我就會(huì)自己做。” 他在 Google Brain 工作期間，深度學(xué)習(xí)也發(fā)展得越來(lái)越強(qiáng)大，吳恩達(dá)和 OpenAI 一樣，也想知道單憑簡(jiǎn)單地?cái)U(kuò)大神經(jīng)網(wǎng)絡(luò)是否可以成為通往 AGI 的道路。“但這些都只是問(wèn)題，不是陳述，” 他表示，“人們現(xiàn)在開(kāi)始對(duì) AGI 提出具體主張，所以 AGI 就引起了爭(zhēng)議。” 比起 AGI 何時(shí)能實(shí)現(xiàn)的狂妄看法，一個(gè)更有爭(zhēng)議的問(wèn)題是，如果我們?nèi)纹浒l(fā)展，它能做些什么？對(duì)于這個(gè)問(wèn)題，人們的猜測(cè)就跟科幻小說(shuō)一樣。馬斯克說(shuō) AGI 將比核武器更危險(xiǎn)。

目前在武漢大學(xué)工作的人工智能研究員雨果?德加里斯曾在本世紀(jì)初預(yù)測(cè)，AGI 將導(dǎo)致一場(chǎng)世界大戰(zhàn)，并在本世紀(jì)末導(dǎo)致 “數(shù)十億人死亡”。被他稱為 “artilects” 的神一樣的機(jī)器，將與人類支持者 Cosmists 結(jié)盟，對(duì)抗人類反對(duì)者 Terrans。 德加里斯的文章與哈特和尤爾根?施米德胡貝（有時(shí)被稱為 “現(xiàn)代人工智能之父”）等嚴(yán)肅研究人員的文章一起，發(fā)表在戈策爾的 AGI 書中，這對(duì)支持人工智能的陣營(yíng)沒(méi)有絲毫幫助。如果說(shuō) AGI 陣營(yíng)中的許多人把自己看作是人工智能的火炬手，那么在 AGI 陣營(yíng)之外的許多人則把他們看作瘋子，他們把對(duì)人工智能的想法攪合在一起，其中包含了 “奇點(diǎn)”（當(dāng)能夠自我改進(jìn)的機(jī)器超越人類時(shí)，一切就無(wú)法后退了），人類意識(shí)上傳到計(jì)算機(jī)，超人類主義和世界末日。 為什么 AGI 很重要？

幾十年前，當(dāng)人工智能并沒(méi)有像明斯基等人大肆宣傳的那樣發(fā)展時(shí)，這個(gè)領(lǐng)域曾崩潰過(guò)許多次。資金鏈斷裂，但研究人員繼續(xù)前行。他們花了許多年才讓這項(xiàng)技術(shù)脫離 “人工智能的冬天”，并重新得到發(fā)展。然而，炒作仍然存在。 吳恩達(dá)說(shuō)：“所有的人工智能冬天都是由不切實(shí)際的期望造成的，所以我們需要在每一個(gè)轉(zhuǎn)折點(diǎn)上與之斗爭(zhēng)。” 佩森蒂對(duì)此表示贊同，“我們需要控制這些炒作”。 更大的擔(dān)憂是，這些不切實(shí)際的期望會(huì)影響決策者。柏林赫爾蒂行政學(xué)院的 AI 研究人員喬安娜?布萊森表示，她目睹了董事會(huì)和政府中許多愚蠢的想法，因?yàn)槟抢锏娜藢?duì)人工智能有著科幻般的看法。

這會(huì)讓他們產(chǎn)生諸如機(jī)器人接管之類的荒誕擔(dān)憂，而忽略了尚未解決的真正問(wèn)題，比如通過(guò)扭曲的訓(xùn)練數(shù)據(jù)將種族偏見(jiàn)編碼到人工智能中，算法如何工作能夠降低透明度，或者當(dāng)人工智能做出錯(cuò)誤決定時(shí)誰(shuí)應(yīng)該承擔(dān)責(zé)任。 這種炒作也讓投資者非常感興趣。馬斯克的資金幫助了真正的創(chuàng)新，但當(dāng)他表示想資助存在風(fēng)險(xiǎn)的工作時(shí)，所有的研究人員都把他們的工作比作遙遠(yuǎn)未來(lái)的威脅。布萊森說(shuō)：“有些人真的相信可以研究出 AGI，但有些人只是為了錢、聲望和其他的東西。我不知道他們是否都對(duì)自己完全誠(chéng)實(shí)。” AGI 的吸引力并不令人驚訝。自我反省和創(chuàng)造是人類最重要的兩種活動(dòng)。

按照我們的形象建造一臺(tái)機(jī)器的欲望是不可抗拒的。許多現(xiàn)在對(duì) AGI 持批評(píng)態(tài)度的人在早期職業(yè)生涯中都用過(guò)它。像戈策爾一樣，布萊森花了幾年時(shí)間試圖制造一個(gè)人造嬰兒。2005 年，吳恩達(dá)在世界主要的人工智能大會(huì) NeurIPS（后來(lái)被稱為 NIPS）組織了一個(gè)研討會(huì)，題目是 “走向人類水平的人工智能？” 但現(xiàn)在他說(shuō)：“這簡(jiǎn)直是瘋了?！?而現(xiàn)在經(jīng)常批評(píng) AGI 爭(zhēng)論的勒昆，還給 AGI 做過(guò)主題演講。

后來(lái)，這些研究人員繼續(xù)研究了更實(shí)際的問(wèn)題。但由于他們和其他人取得的進(jìn)展，人們對(duì) AGI 的期望再次高漲。萊格說(shuō)：“這個(gè)領(lǐng)域的很多人都沒(méi)有期望過(guò)我們?cè)谶^(guò)去幾年能取得這么大的進(jìn)步。這是一個(gè)推力，使 AGI 變得更加可信?！? 即使是 AGI 懷疑論者也承認(rèn)，這場(chǎng)爭(zhēng)論至少迫使研究人員開(kāi)始思考這個(gè)領(lǐng)域的整體方向，而不是專注于下一個(gè)神經(jīng)網(wǎng)絡(luò)攻擊。托格里烏斯表示：“認(rèn)真考慮 AGI 將我們帶到了真正迷人的地方。也許這個(gè)領(lǐng)域最大的進(jìn)步是細(xì)化我們的愿景，試圖弄清楚我們想要的到底是什么。”

責(zé)任編輯：xj

原文標(biāo)題：為何除了馬斯克，沒(méi)人愿意猜通用人工智能何時(shí)出現(xiàn)？

文章出處：【微信公眾號(hào)：DeepTech深科技】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。