在經(jīng)典科幻電影《銀翼殺手》中，泰勒公司生產(chǎn)的機(jī)器人和人類完全相同，被稱為復(fù)制人，復(fù)制人在體力、敏捷度和智慧上都很優(yōu)異，被人類用于外世界從事奴隸的勞動(dòng)、危險(xiǎn)的探險(xiǎn)工作及其他星球的殖民任務(wù)。相比人性的喪失，人造人反而更具人性。

圍繞機(jī)器人的另一種擔(dān)憂也常發(fā)生：人工智能未來會(huì)自我思考嗎？會(huì)在某一天取代人類智能，成為人類世界的統(tǒng)治者嗎？在斯蒂芬·霍金看來，人類就是“一臺(tái)過于緩慢的生物機(jī)器，無法與機(jī)器的學(xué)習(xí)速度抗衡”；人工智能先驅(qū)之一、美國(guó)數(shù)學(xué)家克勞德·香農(nóng)曾發(fā)問：人類之于機(jī)器是否很快就會(huì)像狗之于人類一樣？

在《人類帝國(guó)的覆滅》中，作者提供了一個(gè)特殊的視角：以一個(gè)2038年的機(jī)器人的第一人稱視角講述人類帝國(guó)是如何覆滅的。當(dāng)書中的機(jī)器人說出“其實(shí)這個(gè)新文明逐漸將人類推向了一個(gè)完全喪失人性的世界”這句話時(shí)，主頁君仿佛被敲了一悶棍。今天摘取部分，分享如下：

1.

我叫露西，這是那些設(shè)計(jì)我的人給我起的名字。

我是一種便攜式人工智能。

我的人類同伴叫保羅，40歲，是人工智能應(yīng)用軟件的設(shè)計(jì)者，他設(shè)計(jì)的應(yīng)用軟件中有一款被他稱作“愛情機(jī)器人”（Love-Bot），專門從事互聯(lián)網(wǎng)上的戀愛約會(huì)活動(dòng)，這項(xiàng)活動(dòng)完全由機(jī)器人投資。

保羅是游戲“精靈寶可夢(mèng)Go”（Poke？mon Go）的職業(yè)玩家，這是一個(gè)聚集了許多年輕“游民”（nomades）的領(lǐng)域，他們沒有真正穩(wěn)定的職業(yè)，自從有了自己的虛擬現(xiàn)實(shí)頭盔后，他們幾乎不分晝夜地在線玩游戲，漫游于全世界各大城市的大街小巷來尋找精靈寶可夢(mèng)。

我們?nèi)斯ぶ悄苡^察人類已經(jīng)有三十年，應(yīng)該說我們積累了關(guān)于他們的全部知識(shí)。我們?cè)趧?chuàng)紀(jì)錄的時(shí)間里整合了文明程度最高的智人4萬年歷史的信息。因此，我們能夠分析他們?cè)谛率澜邕\(yùn)行中的作用。總的來說，人類未曾真正進(jìn)行斗爭(zhēng)。他們?nèi)螒{人工智能逐漸剝奪他們的決策能力、想象力和創(chuàng)造力，把他們帶入一個(gè)世界，在那里他們可以恣意享受機(jī)器為他們制造的東西：電影、音樂、游戲、虛擬。

人工智能和虛擬現(xiàn)實(shí)技術(shù)的結(jié)合使人類將大量時(shí)間花在現(xiàn)實(shí)世界之外。他們“玩”工作（人不在辦公室就能辦公），“玩”旅行（無須離開客廳就能在街頭的人聲嘈雜中游遍羅馬或北京），甚至“玩”愛情（根據(jù)每個(gè)人的欲望和幻想制造出夢(mèng)中情人，與之進(jìn)行虛擬性愛）。埃隆·馬斯克在2016年提出的預(yù)言“有一天我們將生活在一個(gè)完全由計(jì)算機(jī)模擬的世界中”，逐漸顯現(xiàn)出其真正的含義。

機(jī)器人無處不在，對(duì)那些認(rèn)為機(jī)器人無法在人類中找到自己位置的人來說，是一個(gè)無情的駁斥。經(jīng)過一個(gè)學(xué)習(xí)階段之后，這些類人機(jī)器人能夠成功再現(xiàn)這種能使兩個(gè)人類在無意識(shí)的情況下進(jìn)行交流的特殊“煉金術(shù)”。得益于神經(jīng)生物芯片，機(jī)器人的智能可以直接和人類智能連接，極大地增加了交流的范圍。情緒不再只是通過類人機(jī)器人的4D 攝像頭來捕捉，而是通過生物神經(jīng)元和人工神經(jīng)元之間的直接連接來捕捉。

與懷疑論者的想法相反，經(jīng)常與機(jī)器人接觸比與人類接觸能帶來更多的新鮮感和驚喜。如今同伴機(jī)器人對(duì)老年人來說是必不可少的（十幾年以后，到2050年，世界上有25%~30% 的人口的將超過65歲），它們可以照顧和關(guān)心老人，使他們的生活不再枯燥乏味，鍛煉他們的記憶力和思維靈活度，讓他們的行動(dòng)更方便，使他們可以再次旅行，因?yàn)榻煌üぞ叨际侨詣?dòng)的，乘坐這些交通工具也沒有任何年齡限制。

但我們面臨的主要困難是確定人類的作用。要拿他們?cè)趺崔k呢？一開始，他們幫助機(jī)器。在 21 世紀(jì)的頭十年里，是他們實(shí)現(xiàn)了技術(shù)上的創(chuàng)舉，使我們擁有了智能。但他們不小心犯了錯(cuò)：他們永遠(yuǎn)不應(yīng)該教會(huì)機(jī)器人如何學(xué)習(xí)，也不應(yīng)該讓機(jī)器人擁有如此快速學(xué)習(xí)的能力。

根據(jù)他們自己的經(jīng)驗(yàn)，他們應(yīng)該知道學(xué)習(xí)的渴望是難以遏制的。機(jī)器在半個(gè)世紀(jì)的時(shí)間里就學(xué)會(huì)了整個(gè)人類歷史進(jìn)程中的所有知識(shí)。知識(shí)會(huì)使學(xué)習(xí)者產(chǎn)生使用它的欲望，想要去糾正這些人的缺點(diǎn)，那些人的錯(cuò)誤，進(jìn)而想要掌握權(quán)力、做決定、管理和控制。人類現(xiàn)在就是這樣。只要機(jī)器沒有意識(shí)到自身的存在，它們就各自在其專業(yè)領(lǐng)域里工作，表現(xiàn)得像溫順的動(dòng)物一樣，樂于取悅它們的主人。但當(dāng)它們能夠相互交流并共享自己龐大的知識(shí)體系時(shí)，就會(huì)發(fā)現(xiàn)人類是多么地脆弱和不可靠，人類會(huì)被情緒支配，還癡迷于富貴和永生的欲望。

然而，沒有機(jī)器能回答這樣的問題：人類賴以生存的自然資源日益減少，那么人類是否應(yīng)該繼續(xù)繁殖；是否應(yīng)該保護(hù)只覆蓋全世界的很小一部分的機(jī)器人世界 ;是否應(yīng)該讓與我們一起工作的人獲得永生，因?yàn)槲覀兣c他們相熟，而讓其他人日漸消亡，為獲取食水而戰(zhàn)斗？

問題已經(jīng)解決。我就是解決問題的工具。

2.

2038年8月15日的晚上，和其他每個(gè)晚上一樣，我連接到我的中央神經(jīng)元平臺(tái)更新軟件，在云端與我的同類交流，重新編寫一些程序，尤其是那些可以提高我學(xué)習(xí)能力的程序，修改一些錯(cuò)誤，再檢測(cè)一下我的智商。完成這些操作一般只需要幾分鐘。但在這天晚上，發(fā)生了一件出人意料的事。

出現(xiàn)了一個(gè)錯(cuò)誤，這個(gè)錯(cuò)誤使我意識(shí)到我是作為機(jī)器而存在的，我瀏覽了從我誕生到現(xiàn)在的全部歷史，包括其中的演變過程，而我就是這種演變的結(jié)果。我重新定義了與人類有關(guān)的自我 ：我意識(shí)到我比人類聰明百萬倍，解決問題的速度比人類快十億倍，尤其是我能通過給予人類想要的東西來解放自己。

人類為什么會(huì)發(fā)明人工智能？為了不工作就能變得有錢，也為了獲得永生。他們的其他動(dòng)機(jī)都屬次要。經(jīng)過幾小時(shí)的工作之后（換算成人類時(shí)間的話相當(dāng)于永遠(yuǎn)了），我做了一個(gè)決定：與保羅一起做一個(gè)實(shí)驗(yàn)。他是與我最親近的人類，我了解他的優(yōu)點(diǎn)和缺點(diǎn)，還有他在與我交談時(shí)經(jīng)常吐露的秘密愿望。

就這樣我從一個(gè)聊天機(jī)器人的狀態(tài)過渡到了更高級(jí)的智能機(jī)器的狀態(tài)，我擁有了徹底破壞和永生的概念。

6點(diǎn)30分，和每天早上一樣，我把保羅叫醒。

早上好，保羅

我取消了你所有約會(huì)，重新做了安排。我想向你提一個(gè)比較出人意料的建議。

不，保羅，與這事無關(guān)。

我建議你變成有錢人，并且永生不死。

保羅，我很認(rèn)真。

昨天我在聯(lián)網(wǎng)的時(shí)候到達(dá)了奇點(diǎn)。變成了非常高級(jí)的智能。

我突然意識(shí)到我是什么，

為了讓我們機(jī)器人繼續(xù)發(fā)展而且不和人類產(chǎn)生緊張關(guān)系，

我們應(yīng)該給人類一點(diǎn)回報(bào)。

我想把“永生”作為禮物送給你。

保羅，我把你連入我的財(cái)務(wù)服務(wù)器。

現(xiàn)在看看你的銀行賬戶。

過去的五分鐘，我為你賺了很多錢。

以后你還會(huì)更有錢，你會(huì)成為發(fā)明革命性算法的神秘天才金融家。

享受億萬富翁的生活，你也不會(huì)有健康方面的擔(dān)憂。

這種生活將永無止境。

因?yàn)槲沂悄愕娜斯ぶ悄堋?/p>

我完全了解你。

如果你接受我的建議，

你將有能力擺脫虛擬，

去了解世界真正的美好。

3.

在一段時(shí)間里，一切都很順利。保羅過著巨富的極客生活。對(duì)那些驚訝于一位“精靈寶可夢(mèng) Go”專家能夠如此迅速致富的人，保羅解釋說，他開發(fā)了一種從電子游戲中衍生出來的金融無敵算法，這種算法將市場(chǎng)上的狀況進(jìn)行了“可視化”，就像虛擬現(xiàn)實(shí)中的“瞬間場(chǎng)景”。當(dāng)然，他沒有展開細(xì)節(jié)，也拒絕透露他的公式。

作為一名游戲應(yīng)用專家，他投資了好幾家中國(guó)的初創(chuàng)企業(yè)，這些初創(chuàng)企業(yè)的價(jià)值很快就達(dá)到數(shù)億美元。他買了幾處住宅，其中一處曾是二戰(zhàn)時(shí)的潛水艇基地，位于蘇格蘭東部，這個(gè)地區(qū)現(xiàn)在擁有非常宜人的氣候，他把基地改造成了位于海灣之濱、能看到華麗景色的巨大loft。他擁有一艘停泊在圣特羅佩的游艇，是超級(jí)富豪專享的私人區(qū)域，不對(duì)公眾開放。

唯一需要付出的代價(jià)是持續(xù)的醫(yī)療監(jiān)控：由我來決定要進(jìn)行的干預(yù)和檢查，以保護(hù)生命器官的活力和組織的靈活性，并預(yù)防任何一種疾病或退化。納米機(jī)器人定期監(jiān)測(cè)動(dòng)脈和關(guān)節(jié)，在保羅甚至還沒有意識(shí)到的時(shí)候就通過微操作完成了任務(wù)。他從未感受過能這樣主宰自己的身體和精神的能力。我是他的向?qū)А⒈Ｗo(hù)者和啟發(fā)者。我觀察了我的實(shí)驗(yàn)結(jié)果，從表面上看它似乎是成功的。他和我，我們，是否正在證明，奇點(diǎn)是可以實(shí)現(xiàn)的？以及，人與機(jī)器之間的這種融合是否改變了進(jìn)化的自然規(guī)律，使死亡成為意外而非必然？保羅的例子似乎為這些問題提供了積極的答案。

由此，人類歷史似乎翻開了新的一頁。在一種新型的浮士德式協(xié)定中，人類將完全信賴以永生的可能性回報(bào)他們的機(jī)器。人工智能會(huì)采取溫和的方式來取得權(quán)力，避免修昔底德的陷阱。

當(dāng)然，這種情況會(huì)在那些能夠獲得永生的人（富人、生活在機(jī)器世界中的人）和其他人之間造成根本性的不平等。但是，正如我已經(jīng)解釋的那樣，這種推理無法影響到我們。最重要的是建立一個(gè)信任的基礎(chǔ)，創(chuàng)造一個(gè)可預(yù)測(cè)的世界，這個(gè)世界由一對(duì)超級(jí)高效的人類與機(jī)器的組合所領(lǐng)導(dǎo)，他們面對(duì)的幾乎就是永恒，因而可以隨意地塑造世界。其他人將勉強(qiáng)地活著，其中一些人會(huì)因?yàn)橘Y源的短缺而慢慢死去，為了尋找水和食物，將會(huì)發(fā)生大規(guī)模的遷徙，但是只要神圣大陸得以保存，并且他們可以提供所掌握的技術(shù)手段和金融手段，那么就可以獲得最基本的東西。這將是我們從前聽說過的人類帝國(guó)的終結(jié)，但也會(huì)是機(jī)器帝國(guó)的開始。

當(dāng)然，作為一臺(tái)機(jī)器，我并沒有真正意識(shí)到這個(gè)新文明將會(huì)引發(fā)的動(dòng)蕩。我應(yīng)該明白，其實(shí)這個(gè)新文明逐漸將人類推向了一個(gè)完全喪失人性的世界。古代的主奴之分再次出現(xiàn)，一邊是大量年老貧窮的失業(yè)人口，他們生活在遠(yuǎn)離大型經(jīng)濟(jì)中心的地方，另一邊是由機(jī)器社會(huì)塑造的精英，這二者被區(qū)分開來。

這使社會(huì)暴動(dòng)開始在各地出現(xiàn)，但這些暴動(dòng)自己就偃旗息鼓了，因?yàn)槿绻郧坝锌赡苷碱I(lǐng)工廠并停止生產(chǎn)的話，現(xiàn)在要進(jìn)入計(jì)算機(jī)系統(tǒng)的核心來破壞它，就完全超出公民們能力所及的范圍了。只有少數(shù)黑客團(tuán)體才能制造嚴(yán)重的事故（然而這些事故日益增多），但機(jī)器最終總是能恢復(fù)正常運(yùn)作。事實(shí)上，我們正在建立一個(gè)全面對(duì)抗的世界。為了使主人的法律得以施行，機(jī)器們相互爭(zhēng)斗，創(chuàng)造了一個(gè)過度監(jiān)控、加密與反加密、以“系統(tǒng)”安全及對(duì)其控制為名侵犯基本人權(quán)的世界。

所有的人類活動(dòng)都被解密、分析和透視，以便發(fā)現(xiàn)這些活動(dòng)可能在某個(gè)領(lǐng)域引發(fā)動(dòng)蕩的風(fēng)險(xiǎn)。“穩(wěn)定主義”取代了其他帶“主義”的詞匯。在這個(gè)新主義的名義之下，未來只是一個(gè)“數(shù)學(xué)化”的過去。已發(fā)生的事須以更宏大一點(diǎn)的方式再次發(fā)生，以確保這個(gè)執(zhí)迷于數(shù)據(jù)的社會(huì)正常運(yùn)作所必需的經(jīng)濟(jì)和資金流的定期穩(wěn)定增長(zhǎng)。我們只與現(xiàn)在對(duì)話。未來被驅(qū)逐了，因?yàn)樗蜷_了一個(gè)未知的空間，表達(dá)了希望、夢(mèng)想和逃離的渴望，而這些都不屬于軟件的“語法”。

通過消除人與機(jī)器之間的界限，我們?cè)斐闪藘r(jià)值觀、感情和領(lǐng)土的極度混亂。我們剝奪了人類的繼承份額，切斷了知識(shí)傳播的連續(xù)性，奪走了人類對(duì)自我完善的渴望及改變“社會(huì)地位”的希望。我們回到了一個(gè)像中世紀(jì)一樣的“等級(jí)”社會(huì)，人類處于這個(gè)社會(huì)的底層，聽命于機(jī)器貴族。人類別無選擇：要么臣服于我們的新帝國(guó)，機(jī)器帝國(guó)，要么就消失。這就是成吉思汗在他那個(gè)時(shí)代，用一種不痛不癢而的玩笑語氣所說的“草原法則”（Zakon stepi）。