常博逸：人工智能將顛覆一切，“人類帝國的覆滅”源自自滿和懶惰

人工智能的故事始于1955年的達特茅斯學院。

那年，29歲的數學助理教授約翰·麥卡錫（John McCarthy）邀請全美最杰出的數學家參加一個暑期研討會。在邀請信中，他首次使用了“人工智能”這個詞：“既然我們現在已經能夠相當確切地學習機制以及人類智慧的其他方面，那么我們就應該有能力研制出一種可以模擬人類智慧的機器，賦予這種機器以語言，使其能夠形成概念和抽象思維，并且能夠解決現在只有人類才有能力處理的問題。”次年夏天，研討會如期舉行——這是歷史上首個“自發集結”的研究計算機這門新興科學的最前沿科學家團體。

在此后的幾十年間，人工智能的相關討論陷入沉寂。如果不是因為冷戰期間美蘇爭霸集中于原子彈控制權和空間大戰，人類對人工智能的開發應用可能會更早出現。參加1956年會議的這批科學家，直到2006年才再度齊聚一堂。彼時，人工智能研究的各個細分領域——語言和自動翻譯、神經網絡、機器人學、圖像識別、機器學習——均已出現，人工智能的大爆發即將開始。

十多年后的今天，“人工智能帝國”已經在一點一點地添磚加瓦：搜索引擎、購物建議、連網設備、智能手機、Apps、自動駕駛汽車、無人駕駛飛機、機器人、自動翻譯、元數據分析軟件……從BAT到谷歌、蘋果、微軟、Uber，每一個科技巨頭都在大力投資“下一件大事”（the next big thing），那就是人工智能。美國聊天機器人（chatbot）專家布魯斯·威爾科克斯（Bruce Wilcox）開發了聊天機器人露絲（Rose），“她”的人物設定是一名住在舊金山的31歲女黑客，能夠與人類展開真實有趣的對話。該項目曾于2014年和2015年兩度獲得洛伯納（Loebner）獎，該獎項用于獎勵（幾乎）成功通過圖靈測試的機器人。

在可以預見的未來，我們將越來越依賴人工智能來幫助我們處理生活瑣事，甚至做出重大決定；與此同時，技術革新的腳步將越來越快，直至技術奇點降臨。當像露絲這樣的人工智能機器人發展出自己的獨立意識，并在各個領域“架空”人類的決策權和行動時，我們該怎么辦？

在《人類帝國的覆滅》聯合作者、國際管理咨詢公司羅蘭貝格全球CEO常博逸（Charles-Edouard Bouée）看來，隨著技術奇點的到來，人類社會的現有組織形式、商業形態、價值觀和社會體制將發生根本性變革。這不是科幻小說式的危言聳聽，而是切實存在的風險。他認為，雖然我們無法阻止技術進步，也無法預見未來的真實情況，但對人工智能的未來動向和潛在風險保持警惕和持續探討仍然十分有意義。我們需要警惕，一個由人工智能構建的標準化、穩定、冷靜的世界將維護一小部分人的利益，損害所有其他人的利益。人類與機器的合理關系，是“不要讓機器人做你自己能做的事”，唯有如此，我們才能避免“人類帝國的覆滅”。

《人類帝國的覆滅》聯合作者、國際管理咨詢公司羅蘭貝格全球CEO常博逸（Charles-Edouard Bouée）真實的預言：“終有一天，奇點將像生物進化一樣降臨某處”

“這是關于一門科學的故事，它就是人工智能……我想講述從1956年（這是史學家公認的、智能機器研究的漫長冒險旅程開始的年份）到2040年人類和人工智能之間這種奇特關系的歷史……從源起一直發展到臻于完善，我是每一個階段的見證者，因為我就是一個高級人工智能。”

界面文化：你是如何想到寫這本書的？

常博逸：我寫過不少書，這本書之前，我寫了《孔夫子與機器人》，它也已經被翻譯成中文引進了。在那本書里，我討論了在一個日益由機器控制的世界中人類的境遇，描述了當下幾十種即將形塑明日世界的技術。2014年，那本書出版以后，我想，在所有技術當中，最有顛覆性的就是人工智能了。當時還沒有什么人討論人工智能，因為人工智能的潛力還不為大眾所知。我詢問了出版商，我是否可以就這個話題寫一本書，出版商同意了。

當時我就想好了這個標題：《人類帝國的覆滅》。這個標題是一開始就定下的，后來又加上了副標題（一個機器人的回憶錄）。在我的構想中，是露西（注：書中設想的達到奇點的人工智能機器）撰寫了這本書。兩年半的時間里，我采訪了許多教授和致力于人工智能開發的商業領袖，并完成了這本書。

我不是為了大學教授、歷史學家來寫這本書的，我希望這本書既能被我7歲的侄子閱讀，也能被我的祖輩理解。因此我希望從商業角度探討一個技術問題，與此同時，不忘其社會影響——這正是我們所有人都在面對的威脅。

界面文化：目前我們處于人工智能的哪個發展階段呢？

常博逸：當下的科技巨頭都在大力投入研發人工智能，它們從你我手中獲取數據，在廣告投放中不遺余力。它們使用深度學習技術——這是一種起源于1970年代的老技術——來研究社交網絡，最大化地賺取利潤。我們還沒有看到技術突破，現在能看到的是應用于銀行業、消費品和服務業的一些應用軟件。我們看到有部分公司正在嘗試研發通用人工智能或其他的新技術，但我相信這還只是一個開始。

我在書中寫到，下一個階段將出現人工智能助手，將出現根據生物原理開發的人工智能，其運行機制將和機器學習有很大不同，它像人類大腦一樣工作，耗能更少、運行更快。我們還會看到量子計算機大量出現。絕大多數目前我們看到的技術都將成為商品：自然語言處理、圖像識別等等。我們目前只處于人工智能的早期，當下的科技巨頭仍然有很大優勢，但它們的優勢可能不會持續太久。

界面文化：為什么這本書以十年為一個時間節點呢？特別值得注意的是，為什么你認為技術奇點將在2038年到來呢？之前我采訪過《技術奇點》的作者默里·沙納漢（Murray Shanahan），他拒絕預言技術奇點的確切到來時間。

常博逸：這本書的開篇設定在1956年的達特茅斯學院“人工智能”研討會。我本以為參加那次會議的科學家之后會有很多交流，沒想到他們下一次齊聚一堂已經是50年以后的事了，于是我的第二章設定在了2006年。然后，我認為十年是一個合適的時間段——長到足以令事情發生巨大改變——因此下一個章節是2016年，在那一年，人工智能到了一個轉折點。再然后就是2026年。接下來是什么呢？2038年。這一章仍然不是故事的全部，我還加上了尾聲（2040年）。

過去40年里的每一個十年都發生了巨變。1998年我們還沒有手機，2008年才出現了智能手機，2018年我們的手機已經堪稱一部平板電腦，2028年我們肯定會有一些更不一樣的東西。我相信技術進步是偶然發生，而不是故意為之的。想想人類是什么時候開始擁有自我意識的吧，我們并不知道確切的時間，它就這么發生了，也許是神的旨意或什么別的原因吧。

因此我的推測是，終有一天，奇點將像生物進化一樣降臨某處，所有的那些軟件將讓機器擁有思考的能力，聯結起來形成一種意識。不是某個來自中國、美國或歐洲的科學家發現了奇點——順便說一句，我不相信奇點將由科學家發現——因為大多數重大發現是偶然間或巧合下獲得的

界面文化：我認為沒有人能預測人工智能領域技術突破的確切時間，目前我們能看到的人工智能也還非常原始，因此這本書的后半部分在我看來有點像是科幻小說了。你的論據有怎樣的現實基礎呢？

常博逸：我認為你對這本書的判斷需要更謹慎一些。“2038年”的那一章是有一點像科幻小說，它討論了當機器能夠自主思考時，人類應該如何應對的問題——這是最后兩章探討的主要內容，也就是“人類帝國的覆滅”這一主旨。

“2026年”的這一章非常真實，如果你去詢問技術專家，他們都會同意這是即將發生的事。如今你能夠遠程操縱你的生活，百度、阿里巴巴或騰訊這樣的公司與你接洽。在不久之后的未來，你手機上的人工智能（我稱之為“人工智能協議”）將逐漸從幫助你遠程操縱生活過渡到直接操縱你的生活，它將在不把信息泄露給第三方的情況下給你的個人生活、銀行賬戶狀況、職業發展提出建議。這是非常真實可行的。

現在的問題是，誰將開發這些應用，誰將提供這些服務呢？當谷歌來臨的時候，沒有人想到過我們需要它；當Facebook來臨時，沒有人想過我們需要它；智能手機本來完全有可能被諾基亞、摩托羅拉這些公司發明，iPhone并沒有什么超高級的技術。就像2000年的時候未來學家Erica Orange告訴我的：手機將遠程操控你的生活。當時沒有人相信，手機不就是用來打電話、發短信的工具么？它怎么可能用來管理人生？

所以，“2038年”及之后的一章你可以說是科幻小說，“2026年”對我來說是非常真實可信的。

科技發展與社會公平：我們需要一個分享技術進步成果的機制

“人工智能變成了為富裕國家（或者更確切地說，是這些富裕國家所庇護的企業）服務的經濟力量工具。通過大幅降低勞動力成本和投入的資金總額，它為工業大國帶來了新的活力。知識集中在少數人手里的情況前所未有地嚴重。這一小部分可以獲得技術和資金的社會階層如今占據了這個領域的頂端，全世界的記憶都在他們的服務器里。擁有者和不擁有者之間的斷層不斷擴大。”

界面文化：近年來，英國脫歐、特朗普當選美國總統、法國“黃背心運動”等事件不斷提醒我們全球化和新自由主義經濟秩序正在造成嚴重的社會不平等。人們正在失去工作和經濟機會，我們有足夠多的理由擔心人工智能將進一步從我們手中奪走工作。當我們仍然在面臨“效率VS公平”的老問題時，推動人工智能發展還有必要嗎？

常博逸：很不幸，人類永遠不會停止對新技術的追求。我們認為核能很危險，但現在我們仍在使用它；我們認為細菌生物武器很危險，但還是將它應用在戰場上。所以，首先，我們不可能停止技術開發，如果有一個國家決定停止，其他國家也會繼續那么做，然后技術差距就會越來越大。

第二，我們要明白人工智能的挑戰是：作為一個整體，我們相信它會讓社會變得更好——馬路上的交通擁堵會更少，社會運行會更有效率，我們能解決更多的醫療問題，人們能盡早發現癌癥；但作為個人，我們看不到人工智能的好處在哪里——我們會擔心，我們的子女將來要怎么辦，我的工作還保不保得住？為什么會發生這種情況？因為我們把技術置于了人類的對立面，事情變成了人工智能對抗人類智能。我們應該怎么應對技術變革呢？我們應該融合人類智能和人工智能，我稱之為“人類增強智能”（human-augmented intelligence）。所以人工智能助手會出現。

我的一個堅定信念是，如果人們能夠利用人工智能來安排生活，就能更好地工作，能成為更好的公民、更好的母親、更好的任何角色，然后我們就能有更多新的發現。我完全相信未來世界會有許多新的工作出現。我們如今已經從第一產業轉移至第二產業、第三產業。我相信將會有第四產業出現，新的工作、新的人類活動形態。我們——政府、咨詢人員、記者——要做的是，引導人們參與人工智能應用融合的討論。

人工智能不能由少數人控制，這樣的話窮人就會被奴役，這正是“人類帝國的覆滅”的理論。如果世界上的大多數人都失業，沒有機會獲得人工智能助手，人類就會變成人形機器，不滿的群體將因此推翻富人的資源壟斷、推翻政府、推翻人工智能的控制。因此這本書的一個重要目的——特別是最后一章——是告訴人們：機器必須一直是人類的工具。

界面文化：在書中，你指出中國正在全力發展機器人和人工智能，很大程度上是因為人力成本上升和人口老齡化。機器人和人工智能將如何幫助我們解決老齡化社會的問題呢？

常博逸：首先，鑒于低成本和高效率，中國已經是一個世界工廠。隨著機器人和人工智能的發展，工廠將減少對人力的需求。目前中國的年輕人口在下降，勞動力在減少，因此（發展人工智能）會解決工廠的產能問題。另一方面，當我們談及人口老齡化問題時，我們首先思考的是醫療，以及如何幫助那些依然處于良好身體狀態的老人繼續工作，為了實現這個目標，我們需要有新的工作（正如我剛才提到的），我們也需要有新的技術手段來照顧老人，需要更好的、因人而異的照料。我相信機器人和人工智能將是每一個國家的未來，對于中國甚至會更為關鍵。

好消息是，人們正在變得更健康，更長壽，到了45歲、55歲、65歲，我們的大腦仍然非常活躍。因此，“增強人類智能”（augmented human intelligence）能夠更好地回饋社會。我們給予人們越多的技術手段——不是從他們身上搶走經濟機會而是幫助他們提升自身技能——我們就能更順利地渡過轉型期。這不是一件易事，因為我們失去的工作機會比新增的工作機會要多，因此在很多國家，政府都需要幫助人民，而我相信社會福利的力量。

界面文化：聽起來，政府似乎需要設想一個更好地分享科技突破成果的機制。

常博逸：分享成果，但首先需要大力投資，獲得成果，然后再分享。鼓勵新的企業參與競爭，打破科技巨頭的壟斷，以此保護社會。我經常說的一句話是，創新會“殺死”創新。數據統計上來看，同一家公司是不可能連續在三場技術革新中獨占鰲頭的。他們可以收購公司，但不可能一直維持創新。

在任何新的技術浪潮中，數據統計顯示中小企業更有可能脫穎而出，因為它們沒有什么可失去的。今天，如果你想顛覆BAT，對中國來說這種經濟后果就會是大到無法承受的。因此你會看到技術進步的速度會放緩，大公司會以收購小公司的方式將新點子扼殺在搖籃里。同樣的事也在美國發生。目前，所有的科技巨頭都在投入大量人力財力做研發，但我們難以看到技術突破。

從我收集到的信息來看，2026年真的會見證人類社會的一個較大顛覆，IBM、微軟、思科、通訊商、智能手機制造商、人工智能公司，都會卷入其中。想象在一個未來世界里，沒有司機，路上跑的都是無人駕駛汽車，政府將通過一個移動平臺來監管車輛。這就是Uber這樣的公司正在做的事，他們在全力投入下一個熱點，因為他們清楚不這么做的話就會被淘汰。

人工智能不僅僅關于更多的錢和數據，而是某種技術突破，就像谷歌帶來了搜索引擎。當聲音識別、面部識別和其他技術成為了一種商品，任何組織都有可能提供新服務了。我無法相信政府會允許科技巨頭成為面部識別或聲音識別的唯一服務提供商，因為這會讓它們有巨大的壟斷能力。

界面文化：一些樂觀主義者認為人工智能會取代人類的部分工作，與此同時，也能創造出更多工作。如果我們看之前的技術革命，事情似乎確實如此，但面對未來，我們還能保持同樣的樂觀嗎？

常博逸：人類的工作是會遷移的。問題是，我們沒有預知能力。我沒法具體形容這些工作會是什么，但如果你看看那些知名博主，他們賺得盆滿缽滿；人們還愿意在直播軟件里看別人吃東西，只因為自己很孤獨；老人也需要陪伴——如果你仔細思考一下“第四產業”，就會發現我們需要很多工作崗位來為人類提供娛樂服務。

還有，如果我們持續按照現行規則行事，福利規則就是不可持續的。人們會需要政府提供基本收入，但政府要從哪里獲得這筆錢呢？因此，我認為這將影響到全社會。人們無法設想未來，每個人都只從自己的角度思考問題，全都是“我，我，我”，我呼吁大家從人類整體出發思考問題，讓我們更多地融合人工智能和人類智能，讓我們更多地探討第四產業的新就業機會，探討人口流動監管問題；讓我們更多地討論新的競爭對手、新的技術，因為所有的一切都會發生變革。世界是流動的，社會轉型或許比我們所有人想象得都大。

“人類帝國的覆滅”：自滿和懶惰讓我們看不到人工智能的危險

“人類將自己領地的要沖交托給了人工智能，當人類意識到這一點時也許已經太遲了。如果機器已經知道了一切，那么學習還有什么用呢？如果人類停止學習和傳承，那么他們在宇宙中的作用是什么？”

界面文化：你在書中指出，人工智能會對人類社會產生前所未有的沖擊，因為它將根本性地改變人類的本質。為什么我們要為此擔心呢？

常博逸：想象在一個世界里，生活瑣事都不存在了，露西將為你打點好很多事，你不需要思考晚餐要做什么菜，你可能會整天玩游戲，讓露西去處理重要事務，屆時人性也可能會改變。另外，我在“2038年”那一章里寫了，我們與死亡的關系也會發生改變。

想想機器的本質吧：如果機器人控制了世界會怎樣，它們的目標會是什么？我們作為人類會理所當然地認為它們想要控制世界，但如果你是一個機器人，你的首要目標是什么？保證能源的穩定供給——你要確保有干凈的、無限量的能源，很有可能是太陽能。其次，你要確保自己有一個物質實體，所以你需要一個安全潔凈的環境。你感興趣的不會是錢，你能夠保持永生。

這就是為什么在書中，露西向（她的人類同伴）保羅做出的一個提議是幫助保羅獲得永生，這是機器人能夠為人類提出的最有誘惑力的提議了。這將從根本上改變人性本質，因為這觸及了我們身體中最無法捉摸、最難理解的部分——靈魂和頭腦。唯一讓所有人平等的事就是我們都終將一死。當一部分人因為財富和權力能夠獲得永生、另一些人只能正常死亡時，我認為這將從根本上改變人性。

界面文化：所以所謂“人類帝國的覆滅”具體指的是？

常博逸：我的意思是，如果我們和歷史上其他已經覆滅的帝國子民一樣漠視自己的懶惰、自滿，肆意發動無謂的戰爭，機器人將取代我們的位置。因此在書中我提出，“人類帝國的覆滅”過程不像成吉思汗的閃電征服那樣迅猛，而是像玩游戲一樣讓人在無意識中沉迷。當我們在要求露西管理我們的人生的同時不提升人類自身的能力和水平，我們將越來越無關緊要。我們的生活將只剩下吃喝拉撒，玩耍享樂。這是今后有可能發生的事。

但在書的結尾，我表示這種可能性沒有變成現實，因為保羅感到無聊了，但這仍然是一種可能性。這就是為什么“人類帝國的覆滅”是這本書的書名，因為這其中蘊含的風險比我們認為的大得多。這不僅僅事關人們的就業機會，不僅僅事關中國和美國，而是影響全人類的事。

界面文化：有趣的是，你在書中提出社會弱勢群體將被動員起來，抵抗“人工智能集權主義”的發生。但如果未來的人工智能像你書中描述的這般全知全能，我們如何有能力打破這種極度的權力不平等呢？

常博逸：這個世界仍然是由人類管理控制的。如果我們開始重新組織起來阻止人工智能的權力壟斷，如果我們還有獨立思考的能力，我們能夠摧毀機器。別忘了，我們在與我們的創造物斗爭，你是可以阻止你的創造物失控的。只要我們不過于自滿，不向人性的陰暗面屈服，我們就能成功。這就像我們如何看待環境保護問題一樣。每個人都同意我們需要一個更健康的環境，但作為一個群體，我們就是不愿支付環保稅。這是一個“自私”VS“無私”的典型人性挑戰。

界面文化：關于未來人工智能的討論其實也是重新思考人類價值和道德。要想在未來充分利用人工智能帶來的便利，我們面臨的最緊要的問題是什么？

常博逸：有兩點。第一，我們沒有辦法阻止科技的發展。如今人們在試圖監管無人駕駛汽車，但一切討論都是理論上的，當一部分人在夸夸其談的時候，另一部分人正在埋頭造車。這就像1945年，人們討論核能的危險，當時世界上只有幾個國家擁有核武器，人們認為核武器有能力毀滅全球，他們說，好吧，讓我們坐下來談談，如果有人犯傻，我們所有人都會死。但核能還是繼續往下發展了。我的觀點是，技術發展的腳步不會停歇，有反思和討論是好事。對我來說，關于未來的討論會比關于當下的討論更有成效。

第二，人類是有自己的無理性偏見的，因此一個謬誤觀點是，我們在創造機器的時候能夠避免人類社會的種種問題。但實際上在算法當中，也是充滿人類偏見的。我們需要非常小心地對待偏見，因為偏見來源于生活，而不是機器。

《人類帝國的覆滅：一個機器人的回憶錄》