2014年，泰格馬克與斯圖爾特·羅素、史蒂芬·霍金聯(lián)合在赫芬頓郵報(bào)上發(fā)表的《超越我們對(duì)超級(jí)智能機(jī)器的自滿》一文，引發(fā)媒體對(duì)AI安全報(bào)道，泰格馬克背后的未來(lái)生命研究所也名聲大噪。未來(lái)生命研究所究竟是在什么樣的情況下誕生的呢？為什么馬斯克、霍金都加入了科學(xué)顧問(wèn)委員會(huì)？本文帶你了解未來(lái)生命研究所的前世今生。

一場(chǎng)影響人類未來(lái)的大會(huì)，和一個(gè)組織

在2015年第一個(gè)星期天的下午，一群人悄然集結(jié)參加一場(chǎng)在波多黎各某度假勝地舉辦的閉門會(huì)議。這場(chǎng)會(huì)議，匯集了牛津大學(xué)人工智能倫理學(xué)家尼克·博斯特倫、Skype的創(chuàng)始人揚(yáng)·塔里安以及Google的AI專家肖恩·萊格。會(huì)議有著非常樂(lè)觀的主題：“AI的未來(lái)：機(jī)遇與挑戰(zhàn)并存”，而讓這場(chǎng)大會(huì)顯得更加神秘的是，一切媒體記者被禁止參加，同時(shí)參會(huì)者在參會(huì)期間也不能私下公開(kāi)看法。

波多黎各大會(huì)參會(huì)者合影

在長(zhǎng)達(dá)一周的會(huì)議即將落幕的傍晚時(shí)分，所有人準(zhǔn)備走向酒吧，參加隨后的慶祝聚會(huì)。而大會(huì)的主辦人泰格馬克教授，卻讓大家再留步片刻，“有個(gè)大事情要宣布”。隨后，一個(gè)健碩的身影走到臺(tái)前，他就是伊隆·馬斯克。燈光下，馬斯克的出現(xiàn)讓臺(tái)下爆發(fā)一陣騷動(dòng)。

馬斯克清了清喉嚨，開(kāi)始宣布，要將1000萬(wàn)美元捐贈(zèng)給這個(gè)MIT教授創(chuàng)立僅一年的組織——未來(lái)生命研究所（Future of Life Institute的英文縮寫，簡(jiǎn)稱FLI）。

未來(lái)生命研究所誕生記

馬斯克是在最后幾分鐘才趕到慶典現(xiàn)場(chǎng)。兩天后，SpaceX就要進(jìn)行一次重要的火箭發(fā)射，嘗試在海面平臺(tái)回收部分火箭。但他還是堅(jiān)持趕到了現(xiàn)場(chǎng)，因?yàn)樗嘈牛@場(chǎng)大會(huì)和這個(gè)新誕生的組織，對(duì)世界有著非同尋常的意義。

在很多媒體的報(bào)道中，經(jīng)常是這樣描述伊隆·馬斯克——一個(gè)堅(jiān)定的人工智能威脅論者。起因是他在2014年8月發(fā)布的那條人盡皆知的推特：“我們需要對(duì)AI保持謹(jǐn)慎。它們可能比核武器還要危險(xiǎn)。”

未來(lái)生命研究所作為一家非盈利組織，

鏈接學(xué)術(shù)界與科技企業(yè)界，推動(dòng)“AI有益運(yùn)動(dòng)”的發(fā)展

也幾乎是與此同時(shí)，一位MIT的教授也在這樣的信念下，推動(dòng)著自己的計(jì)劃。因?yàn)轳R斯克那條有些“危言聳聽(tīng)”的推特，兩人的故事發(fā)生了交集。幾乎是一拍即合，在他們第一次電話聯(lián)絡(luò)的時(shí)候，馬斯克便同意加入未來(lái)生命研究所的科學(xué)顧問(wèn)委員會(huì)，并表示愿意資助未來(lái)生命研究所籌備開(kāi)篇提到的波多黎各大會(huì)。

那這個(gè)未來(lái)生命研究所究竟是在什么樣的情況下誕生的呢？成立之后究竟為了推進(jìn)什么研究呢？

瘋狂邁克斯

在成立未來(lái)生命研究所之前，作為MIT物理學(xué)終身教授，泰格馬克已經(jīng)在平行宇宙方面的研究上成果斐然。他師承約翰·惠勒，與理查德·費(fèi)曼和基普·索恩師出同門。數(shù)理宇宙的假說(shuō)讓他成為“當(dāng)今最具原創(chuàng)力的科學(xué)家”。

這些年里，泰格馬克將研究領(lǐng)域擴(kuò)展到了人工智能。不少人會(huì)覺(jué)得詫異，一個(gè)物理學(xué)家，為什么要“開(kāi)小差”，跑去研究人工智能？

泰格馬克

一方面，MIT在人工智能領(lǐng)域積淀深厚。雖然人工智能在達(dá)特茅斯學(xué)院最先提出，但最初實(shí)現(xiàn)的卻是麻省理工學(xué)院。另一方面，泰格馬克的很多研究都是基于最新的計(jì)算機(jī)技術(shù)，他自己曾開(kāi)發(fā)數(shù)據(jù)分析工具，用于宇宙微波背景的研究。過(guò)去幾年一直與MIT的團(tuán)隊(duì)在AI研究領(lǐng)域耕耘，至今已經(jīng)發(fā)表了5篇AI技術(shù)領(lǐng)域的論文，其中一篇是與楊立昆（深度學(xué)習(xí)領(lǐng)域三巨頭之一）合作發(fā)表。

私下里，他更喜歡大家給他取的外號(hào)“瘋狂邁克斯。”在科學(xué)家的外衣下，他有著一顆夢(mèng)想家的心。用他的話說(shuō)，“從我14歲知道了核軍備競(jìng)賽以來(lái)，我一直擔(dān)心我們的技術(shù)力量比我們控制它的智慧增長(zhǎng)得更快。”這種擔(dān)憂一直伴隨著他的學(xué)術(shù)生涯，并讓他不斷行動(dòng)起來(lái)。也正是這種浪漫主義，讓他和伊隆·馬斯克和斯蒂芬·霍金走到了一起。在他的第一本書《穿越平行宇宙》新書巡回之旅中，他決心要為這個(gè)世界做些什么。首先，要成立一家非盈利組織，專注于用技術(shù)管理來(lái)改善未來(lái)生命的境況。

未來(lái)生命研究所與它的成員們

接下來(lái)，泰格馬克開(kāi)始勾搭自己的朋友。在倫敦，泰格馬克找到了Deepmind的創(chuàng)始人丹尼斯·哈薩比斯。兩個(gè)人在聊了一圈AI領(lǐng)域的技術(shù)突破與變革后，泰格馬克向哈薩比斯攤牌，包括自己在AI安全研究方面的想法以及未來(lái)生命研究所的計(jì)劃。哈薩比斯贊同了泰格馬克的想法，并將在研究方面給予支持和幫助。

而另一位朋友揚(yáng)·塔里安（Skype創(chuàng)始人）就更實(shí)在了，當(dāng)泰格馬克向他承諾了未來(lái)生命研究所的愿景后，便決定每年撥給他10萬(wàn)美元的經(jīng)費(fèi)。在一年后的波多黎各大會(huì)上，塔里安半開(kāi)玩笑的說(shuō)：這是我做過(guò)的最好的一筆投資，這對(duì)我來(lái)說(shuō)簡(jiǎn)直意味著整個(gè)世界。隨后，一批來(lái)自高校的志愿者加入到了未來(lái)生命研究所中。

委員會(huì)中涵蓋了AI領(lǐng)域研究者、企業(yè)家、科學(xué)家乃至哲學(xué)家。

一方面，未來(lái)生命研究所通過(guò)資助全球各地的研究團(tuán)隊(duì)，保證AI安全領(lǐng)域研究的推進(jìn)。另一方面，通過(guò)與世界頂級(jí)專家、企業(yè)家的定期會(huì)議與討論，推動(dòng)AI安全研究的社會(huì)共識(shí)。而未來(lái)生命研究所該機(jī)構(gòu)的科學(xué)顧問(wèn)委員堪稱豪華，包括宇宙學(xué)家史蒂芬·霍金、SpaceX 和特斯拉汽車創(chuàng)始人伊隆·馬斯克、牛津大學(xué)未來(lái)人類研究院主任尼克·博斯特倫、麻省理工數(shù)字商業(yè)主任埃里克·布林約爾松、哈佛大學(xué)遺傳學(xué)教授喬治·丘奇、MIT物理學(xué)教授阿蘭·古斯以及劍橋大學(xué)、加州伯克利等大學(xué)的人工智能方面的著名教授都參與其中。

“AI有益運(yùn)動(dòng)”——讓AI安全性研究進(jìn)入主流

2014年，未來(lái)生命研究所打響了自己的第一槍。泰格馬克與斯圖爾特·羅素、史蒂芬·霍金聯(lián)合在赫芬頓郵報(bào)上發(fā)表的《超越我們對(duì)超級(jí)智能機(jī)器的自滿》一文。表達(dá)了作者對(duì)迅速發(fā)展的AI潛在的風(fēng)險(xiǎn)與隱憂。

那篇經(jīng)常被其他媒體曲解的“原版”文章：

這篇文章引發(fā)媒體對(duì)AI安全報(bào)道的熱潮，伊隆·馬斯克、比爾·蓋茨等科技領(lǐng)袖紛紛加入討論，發(fā)表各自的觀點(diǎn)。遺憾的是，很多媒體搞錯(cuò)了方向，發(fā)表《史蒂芬·霍金警告說(shuō)，機(jī)器人的崛起對(duì)人類可能造成災(zāi)難性破壞》這種危言聳聽(tīng)的文章。

所以真正讓AI安全性研究步入主流的，是2015年1月召開(kāi)的波多黎各大會(huì)。也就是剛剛文章開(kāi)頭出現(xiàn)的那一幕，這場(chǎng)大會(huì)，幾乎所有的參會(huì)者都對(duì)這個(gè)問(wèn)題產(chǎn)生了共識(shí)。

這個(gè)時(shí)代最聰明的頭腦集合在一起

在這場(chǎng)大會(huì)結(jié)束后一周，未來(lái)生命研究所便推出AI研究資助金申請(qǐng)通道。全世界大約有300個(gè)團(tuán)隊(duì)申請(qǐng)，在經(jīng)過(guò)篩選后，37個(gè)團(tuán)隊(duì)開(kāi)始了第一階段的研究。

另外，一封著名的公開(kāi)信也進(jìn)入了公眾視野。在這封名為《邁向強(qiáng)大和有益人工智能的優(yōu)先考量研究方案》的公開(kāi)信中，強(qiáng)調(diào)了“研究不應(yīng)該只限于擴(kuò)展AI的能力，而是也需要把AI對(duì)社會(huì)的效益發(fā)揮至最高點(diǎn)”，并為下一階段的研究列出了優(yōu)先考量的目標(biāo)。這封公開(kāi)信很快就收集了8000多個(gè)簽名，其中包括許多享譽(yù)全球的AI開(kāi)發(fā)者以及伊隆·馬斯克和斯蒂芬·霍金等人。

也是在此時(shí)，媒體對(duì)“AI有益運(yùn)動(dòng)”報(bào)道產(chǎn)生了微妙的變化，再也沒(méi)有終結(jié)者的照片。AI安全性研究終于不再是空談，而是有許多實(shí)際有用的工作要做。并且，許多優(yōu)秀的研究團(tuán)隊(duì)紛紛卷起袖子加入進(jìn)來(lái)。

阿西洛馬大會(huì)的合影，也是AI有益運(yùn)動(dòng)的“群英譜”，你可以在里面找到拉里·佩奇、埃里克?施密特這些企業(yè)家，吳恩達(dá)、丹米斯·哈薩比斯這樣的技術(shù)專家，以及丹尼爾·卡尼曼這樣的來(lái)自心理學(xué)、經(jīng)濟(jì)學(xué)、社會(huì)學(xué)方面的頂級(jí)專家。DeepMind、谷歌、Facebook、蘋果、IBM、微軟和百度等公司的代表悉數(shù)到場(chǎng)。

隨后，在2017年阿西洛馬大會(huì)上，“AI有益運(yùn)動(dòng)”被推向了第一個(gè)高潮。

AI有益運(yùn)動(dòng)的蓬勃發(fā)展

AI有益運(yùn)動(dòng)正在蓬勃發(fā)展。在企業(yè)界，亞馬遜、DeepMind、Facebook、谷歌、IBM和微軟發(fā)起了一個(gè)“有益AI”的行業(yè)伙伴關(guān)系。

而在學(xué)界，不斷有AI安全領(lǐng)域的研究團(tuán)隊(duì)和機(jī)構(gòu)獲得捐贈(zèng)，包括加州大學(xué)伯克利分校的機(jī)器智能研究所、牛津大學(xué)的人類未來(lái)研究所和劍橋大學(xué)的存在風(fēng)險(xiǎn)研究中心。還有一些別的“有益AI”項(xiàng)目也在不斷啟動(dòng)，包括劍橋大學(xué)萊弗休姆智能未來(lái)中心、位于匹茲堡的高蓋茨倫理與計(jì)算技術(shù)基金會(huì)以及位于邁阿密的人工智能倫理與管理基金會(huì)。AI安全性研究就此成型。

而在企業(yè)界，AI有益運(yùn)動(dòng)也產(chǎn)生了深遠(yuǎn)影響。馬斯克投資上億美元的非盈利研究機(jī)構(gòu)OpenAI, 致力于用開(kāi)放的方法研究通用AI，為人類帶來(lái)福祉。

在政府層面，各國(guó)政府和IEEE（世界上最大的技術(shù)專家組織）都發(fā)表了長(zhǎng)篇報(bào)告和建議，除此之外還有幾十份報(bào)告和意見(jiàn)書。

泰格馬克還動(dòng)筆寫起了一本書，這本書于近日出版，名為《生命3.0》（Life 3.0: Being Human in an Age of Artificial Intelligence）。因?yàn)閷戇^(guò)像多重宇宙這類高度理論化的深?yuàn)W概念，對(duì)于有根據(jù)但仍充滿想象的觀點(diǎn)，泰格馬克可謂游刃有余。

《生命3.0》英文版一經(jīng)出版迅速登頂美國(guó)亞馬遜科技類圖書排行榜榜首，受到伊隆·馬斯克、斯蒂芬·霍金、雷·庫(kù)茲韋爾等人的推薦。更為難得的是，這本書同時(shí)受到《科學(xué)》 《自然》兩大權(quán)威學(xué)術(shù)期刊推薦。

作者泰格馬克先以全景視角，展現(xiàn)了關(guān)于這一問(wèn)題的討論與爭(zhēng)議，并探討了近未來(lái)人工智能對(duì)法律、戰(zhàn)爭(zhēng)、就業(yè)和社會(huì)帶來(lái)的影響。然而泰格馬克的野心不止于此，他將目光投向了這場(chǎng)變更最為深遠(yuǎn)之處：人工智能是否能擁有意識(shí)？一萬(wàn)年之后我們能否與人工智能實(shí)現(xiàn)共生與繁榮？宇宙生命發(fā)展最終的物理極限法則為何？更為重要的是，我們?nèi)绾卧谶@場(chǎng)變革中迎來(lái)繁榮，同時(shí)又不會(huì)陷入危機(jī)，喪失生而為人的意義？

作者用生命3.0的概念傳達(dá)了這一觀點(diǎn)：人工智能將完成人類的最終進(jìn)化。對(duì)于我們來(lái)說(shuō)，又要以怎樣的思考和行動(dòng)來(lái)應(yīng)對(duì)？

這本書將是你人工智能時(shí)代的思考利器，歡迎加入這個(gè)時(shí)代最重要的對(duì)話。