以電子數(shù)字計(jì)算機(jī)的誕生及其生成的代碼遍布全球?yàn)榻纾?jì)算的歷史可以劃分為“舊約”和“新約”兩個(gè)階段。舊約的先驅(qū)們提供了基本的邏輯，包括Thomas Hobbes和Gottfried Wilhelm Leibniz。新約的先驅(qū)們包括Alan Turing、John von Neumann、Claude Shannon和Norbert Wiener，他們給機(jī)器帶來智能。

Alan Turing曾經(jīng)在思考如何讓機(jī)器更加智能。

John von Neumann想知道機(jī)器實(shí)現(xiàn)自我復(fù)制需要什么。

Claude Shannon想知道讓機(jī)器在干擾中可靠地通信，需要做些什么。

Norbert Wiener為機(jī)器的控制機(jī)能而深思。

1949年，Wiener第一次警告控制系統(tǒng)可能超出人類掌控，那會(huì)兒第一代存儲(chǔ)程序電子數(shù)字計(jì)算機(jī)才剛剛問世，這些系統(tǒng)需要人類程序員的直接操作，這削弱了Wiener的擔(dān)憂。既然程序員控制著機(jī)器，那么問題會(huì)出在哪里？從那以后，關(guān)于自主控制風(fēng)險(xiǎn)的爭(zhēng)論一直圍繞著數(shù)字編碼機(jī)器的控制權(quán)和限制的爭(zhēng)論。盡管它們擁有驚人的能力，但幾乎沒有被發(fā)現(xiàn)真正的思維。這是一個(gè)危險(xiǎn)的假設(shè)——如果數(shù)字計(jì)算正在被其他東西所取代，該怎么辦呢？

模擬計(jì)算的悄然回歸

過去的一百年里，電子學(xué)經(jīng)歷了兩個(gè)根本的轉(zhuǎn)變：

從模擬到數(shù)字；

從真空管到固體器件。

這兩個(gè)幾乎同時(shí)發(fā)生的轉(zhuǎn)變并不意味著它們密不可分。就像真空管組件也可以用于實(shí)現(xiàn)數(shù)字計(jì)算一樣，模擬計(jì)算也可以在固體器件下實(shí)現(xiàn)。盡管真空管在商業(yè)上已經(jīng)絕跡，但模擬計(jì)算仍然存在。

模擬計(jì)算和數(shù)字計(jì)算之間沒有精確的區(qū)別。

一般來說，數(shù)字計(jì)算處理整數(shù)、二進(jìn)制序列、確定性邏輯和離散增量的時(shí)間，而模擬計(jì)算處理實(shí)數(shù)、非確定性邏輯和連續(xù)函數(shù)，包括時(shí)間——時(shí)間是作為現(xiàn)實(shí)世界中的連續(xù)體而存在的。

許多系統(tǒng)的運(yùn)行可跨越模擬和數(shù)字計(jì)算。比如一棵樹，可以說集成了大量的輸入，可以被看作是連續(xù)函數(shù)，但是如果你砍掉這棵樹，你會(huì)發(fā)現(xiàn)它一直在以數(shù)字方式計(jì)算年份。

在模擬計(jì)算中，復(fù)雜性存在于網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)中，而不是代碼中。信息就像電壓和相對(duì)脈沖頻率那樣，是被處理為值的連續(xù)函數(shù)，而不是對(duì)離散位串的邏輯運(yùn)算。

數(shù)字計(jì)算不能容忍錯(cuò)誤或歧義，它依賴于過程中每一步的糾錯(cuò)。

而模擬計(jì)算可以容忍錯(cuò)誤，允許錯(cuò)誤的存在。

自然界使用數(shù)字編碼來存儲(chǔ)、復(fù)制和重組核苷酸序列，但自然界的智能和控制依賴于模擬計(jì)算，它在神經(jīng)系統(tǒng)內(nèi)運(yùn)行。每個(gè)活細(xì)胞的遺傳系統(tǒng)都是一臺(tái)存儲(chǔ)程序計(jì)算機(jī)。但大腦不是。

數(shù)字計(jì)算機(jī)執(zhí)行兩種比特之間的轉(zhuǎn)換：表示空間差異的比特和表示時(shí)間差異的比特。這兩種信息形式之間的序列和結(jié)構(gòu)轉(zhuǎn)換由計(jì)算機(jī)編程控制，只要計(jì)算機(jī)還需要程序員，我們就能維持人類的控制權(quán)。

模擬計(jì)算機(jī)也是負(fù)責(zé)協(xié)調(diào)兩種信息形式之間的轉(zhuǎn)換：空間結(jié)構(gòu)和時(shí)間行為。在這里，沒有代碼，也沒有程序。不知何故——我們也不完全理解的原因——自然界進(jìn)化出神經(jīng)系統(tǒng)這種模擬計(jì)算機(jī)，它如此神奇，蘊(yùn)含了從世界上吸收的信息。它們可以學(xué)習(xí)，它們學(xué)到的內(nèi)容之一就是控制，它們學(xué)會(huì)了控制自己的行為，它們學(xué)會(huì)了盡可能地控制環(huán)境。

計(jì)算機(jī)科學(xué)在實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)方面有著悠久的歷史——甚至可以追溯到計(jì)算機(jī)科學(xué)出現(xiàn)之前——但在很大程度上，這些都是數(shù)字計(jì)算機(jī)對(duì)神經(jīng)網(wǎng)絡(luò)的模擬，而不是自然界本身進(jìn)化出來的神經(jīng)網(wǎng)絡(luò)。

如今，事情發(fā)生了變化：從底層來看，無人機(jī)、自動(dòng)駕駛和手機(jī)這三駕馬車推動(dòng)神經(jīng)形態(tài)微處理器的發(fā)展，它們直接在硅（和其他潛在的基質(zhì)）上實(shí)現(xiàn)了真正的神經(jīng)網(wǎng)絡(luò)，而不是模擬神經(jīng)網(wǎng)絡(luò)；從頂層來看，我們最大的及最成功的企業(yè)在其滲透和控制世界的過程中，越來越多地轉(zhuǎn)向模擬計(jì)算。

當(dāng)我們爭(zhēng)論數(shù)字計(jì)算機(jī)的智能時(shí)，模擬計(jì)算正在悄然取代數(shù)字計(jì)算，就像二戰(zhàn)后，真空管等模擬元件被重新設(shè)計(jì)用于制造數(shù)字計(jì)算機(jī)一樣。在現(xiàn)實(shí)世界中，運(yùn)行有限代碼的獨(dú)立確定性有限狀態(tài)處理器正在形成大規(guī)模的、不確定的、非有限狀態(tài)的后生動(dòng)物有機(jī)體。由此產(chǎn)生的模擬/數(shù)字混合系統(tǒng)共同處理比特流，就像在真空管中處理電子流一樣的方式，而不是像由離散狀態(tài)設(shè)備處理比特流那樣單獨(dú)處理電子流。比特是新的電子。

模擬又回來了，它的本質(zhì)是承擔(dān)控制。

這些系統(tǒng)控制著從商品流通到交通流通再到思想流通的一切，它們以統(tǒng)計(jì)的方式運(yùn)行，就像神經(jīng)元或大腦處理脈沖頻率編碼的信息時(shí)那樣。

智能的出現(xiàn)引起了智人的注意，但我們真正應(yīng)該擔(dān)心的是控制的出現(xiàn)。

建立于現(xiàn)實(shí)之上的系統(tǒng)，卻反過來控制現(xiàn)實(shí)

POSSIBLE MINDS: Twenty-Five Ways of Looking at AI封面

1958年的美國(guó)人需要保衛(wèi)美國(guó)全境免受空中打擊。為了區(qū)分?jǐn)硻C(jī)，除了依靠計(jì)算機(jī)網(wǎng)絡(luò)和早期預(yù)警雷達(dá)站以外，還需要實(shí)時(shí)更新所有商業(yè)空中交通地圖。美國(guó)為此建立了SAGE（半自動(dòng)地面環(huán)境）系統(tǒng)。SAGE反過來又催生了Sabre的誕生，Sabre是第一個(gè)用于實(shí)時(shí)預(yù)訂航班的綜合預(yù)訂系統(tǒng)。Sabre和它的后代很快就不再是僅有空余座位的地圖，而成為了一個(gè)系統(tǒng)，它開始通過分散的情報(bào)來控制飛機(jī)的飛行地點(diǎn)和時(shí)間。

但系統(tǒng)里不是有個(gè)控制室嗎？不是有人正在控制系統(tǒng)嗎？可能不是。比如，你開發(fā)了一個(gè)實(shí)時(shí)繪制高速公路交通地圖的系統(tǒng)，讓汽車接入該地圖，并報(bào)告自己實(shí)時(shí)的速度和位置。其結(jié)果是一個(gè)完全分散的控制系統(tǒng)。

系統(tǒng)的控制模型并不存在于任何部位，系統(tǒng)本身就已經(jīng)是了。

這是21世紀(jì)的第一個(gè)十年，想象一下，你想實(shí)時(shí)追蹤人際關(guān)系的復(fù)雜性。對(duì)于大學(xué)規(guī)模較小的大學(xué)生來說，你可以為他們的社交生活建立一個(gè)中央數(shù)據(jù)庫(kù)，還可以保持它的實(shí)時(shí)更新，但如果大學(xué)的規(guī)模再大一點(diǎn)，它的維護(hù)將變得完全不可能。更好的做法是在本地托管簡(jiǎn)單、免費(fèi)的半自治代碼副本，讓社交網(wǎng)絡(luò)自己更新。這段代碼是由數(shù)字計(jì)算機(jī)執(zhí)行的，但是系統(tǒng)作為整體而執(zhí)行的模擬計(jì)算遠(yuǎn)遠(yuǎn)超過了底層代碼的復(fù)雜性。結(jié)果是，其產(chǎn)生的關(guān)于社會(huì)圖景的脈沖頻率編碼模型最終成為了真正的社會(huì)圖景。它廣泛地在校園和世界各地里傳播。

如果你想制造一臺(tái)機(jī)器來捕捉人類已知的一切，這意味著什么呢？你有著摩爾定律的支持，將世界上所有的信息數(shù)字化并不需要太長(zhǎng)時(shí)間。你掃描每一本實(shí)體書，收集每一封信件，每24小時(shí)就可以收集49年之久的視頻，同時(shí)還可以實(shí)時(shí)追蹤人們的位置、當(dāng)前的行為。但是，你如何理解這些信息的意思呢？

即使是在所有東西都已被數(shù)字化的時(shí)代，這也不是任何嚴(yán)格的邏輯就能夠定義的，因?yàn)槿祟惖囊饬x并不是根本上合乎邏輯的。一旦你集齊了所有可能的答案，你所能做的最好的事情就是建立一個(gè)定義準(zhǔn)確的問題，并編寫一個(gè)脈沖頻率加權(quán)圖來展示所有東西是如何聯(lián)系起來的。

在你意識(shí)到之前，你的系統(tǒng)不僅會(huì)觀察和映射事物的意義，它還會(huì)開始構(gòu)建意義。隨著時(shí)間的推移，它將控制意義，就像交通地圖開始控制交通流量一樣，即使看上去，似乎沒有人在控制它。

人類難以理解智能

人工智能有三條定律。

第一定律被稱為Ashby 's law，以《大腦設(shè)計(jì)（Design for a Brain）》一書的作者、控制論專家W. Ross Ashby的名字命名。它指出，任何有效的控制系統(tǒng)都必須與它所控制的系統(tǒng)一樣復(fù)雜。

第二定律由John von Neumann闡述，他指出：復(fù)雜系統(tǒng)的定義是它構(gòu)成自己最簡(jiǎn)單的行為描述。有機(jī)體最簡(jiǎn)單的完整模型就是有機(jī)體本身。試圖將系統(tǒng)的行為簡(jiǎn)化為任何其他形式的描述都會(huì)使事情變得更復(fù)雜，而不是更簡(jiǎn)單。

第三條定律指出：任何簡(jiǎn)單到可以理解的系統(tǒng)都不會(huì)復(fù)雜到足以智能地運(yùn)行，而任何復(fù)雜到可以智能地運(yùn)行的系統(tǒng)，都將復(fù)雜到難以理解。

有些人認(rèn)為，在我們理解智能之前，我們不必?fù)?dān)心機(jī)器中出現(xiàn)的超人智能，第三定律可能會(huì)讓這些人放心一些。

但第三定律存在一個(gè)漏洞：不理解的東西，也完全有可能構(gòu)建出它來。你不需要徹底理解大腦是如何工作的，就能構(gòu)建起一個(gè)正常工作的大腦。這是一個(gè)漏洞，無論程序員和他們的道德顧問對(duì)算法做再多的監(jiān)督，也無法彌補(bǔ)。

絕對(duì)“好”的人工智能是一個(gè)神話。我們與真正的人工智能的關(guān)系將永遠(yuǎn)是一個(gè)信仰的問題，而不需要證明。

我們過于擔(dān)心機(jī)器的智能，而對(duì)自我復(fù)制、溝通和控制卻擔(dān)心得遠(yuǎn)遠(yuǎn)不夠。數(shù)字編程無法控制的模擬系統(tǒng)之興起將標(biāo)志著計(jì)算領(lǐng)域的新一次革命。對(duì)于那些相信自己能造出機(jī)器來控制一切的人，大自然的回應(yīng)將是讓他們?cè)斐鲆慌_(tái)能控制他們自己的機(jī)器。