1、前言

在過去的十年中，人工智能（AI）領(lǐng)域取得了驚人的發(fā)展。據(jù)不完全統(tǒng)計，現(xiàn)在存在20多個領(lǐng)域，其中AI程序的性能至少與人類（甚至好于人類）相同。這些進步導致了AI的大量爆發(fā)，這讓人回想起第一個AI炒作周期的1956-1973繁榮階段。投資者正在為基于AI的研究和創(chuàng)業(yè)公司提供數(shù)十億美元的資金，而未來主義者再次開始對強大AI的興起做出令人震驚的預測。許多人對人類在就業(yè)市場中的未來提出了質(zhì)疑，聲稱到2033年，多達47％的美國工作屬于高風險類別，這些行業(yè)將被自動化所取代。

在本文中，我們認為AI的短期影響不太可能像這些主張所表明的那樣明顯。導致40年前AI繁榮的第一個階段消亡的幾個障礙，今天仍未解決，看來克服這些障礙需要認真的理論進展。此外，當前的基礎(chǔ)設(shè)施不適合大規(guī)模地整合AI程序，這意味著AI系統(tǒng)不可能很快就能大規(guī)模取代人類。因此，上述預測在未來十五年內(nèi)不太可能實現(xiàn)，金融家可能不會從他們最近在人工智能方面的投資中獲得預期的回報。

2、大膽的期望

人工智能最近的炒作以兩種形式表現(xiàn)出來：驚人的預測和大量的投資，下面將對這兩種方法進行討論。

2.1 到2035年人工智能的力量預測

在過去的幾年中，人們越來越相信AI是一種無限的神秘力量，它能夠（或?qū)⒑芸欤┤〈祟惒⒔鉀Q任何問題。例如，雷·庫茲韋爾（Ray Kurzweil）預測：“到2029年，人工智能將達到人類的水平”，格雷·斯科特（Gray Scott）表示：“到2035年，人類沒有理由也沒有辦法跟上人工智能機器的發(fā)展。 ”。埃隆·馬斯克（Elon Musk）表達了類似但不祥的情緒，他寫道：“人工智能的發(fā)展速度……非常快…………發(fā)生嚴重危險的風險發(fā)生在五年時間范圍內(nèi)。后來又說：“借助人工智能，我們可以召喚惡魔” 。

人工智能將在2029年左右達到人類的水平——Ray Kurzweil，2014年

盡管有人認為馬斯克的愿景是極端的，但研究人員仍然擔心強大的AI很快將對人類在就業(yè)市場上的未來產(chǎn)生重大影響。例如，2013年，牛津大學的兩位教授弗雷（Frey）和奧斯本（Osborne）發(fā)表了一篇文章，標題為“就業(yè)的未來：計算機化工作的敏感性如何？”，他們試圖分析就業(yè)市場中可以在接下來的二十年內(nèi)實現(xiàn)計算機化。他們估計，“美國總就業(yè)人數(shù)的47％屬于高風險類別，這意味著相關(guān)的職業(yè)可能會在未指定的幾年內(nèi)（可能在一到兩年內(nèi)）實現(xiàn)自動化。” 完成這項工作后，各種咨詢公司和智囊團撰寫的幾篇論文預測，由于自動化，未來20年內(nèi)將失去20％至40％的工作機會。

這些預言在許多企業(yè)和各國理事機構(gòu)的董事會席卷了漣漪。由于在美國，人工智能系統(tǒng)有望將勞動力成本降低十倍，因此這種預測表明，通過采用人工智能程序而非人工，企業(yè)可以變得更加有利可圖。但是，這可能迫使失業(yè)率達到驚人的水平，從而在全球范圍內(nèi)造成巨大的經(jīng)濟破壞。

2.2 初創(chuàng)企業(yè)和大規(guī)模投資的爆炸式增長

麥肯錫公司（McKinsey and Company）的數(shù)據(jù)顯示，2016年，非技術(shù)公司在AI方面的支出在260億至390億美元之間，技術(shù)公司在AI方面的支出在200億至300億美元之間。同樣，基于AI的初創(chuàng)公司在2012年左右開始爆炸式增長，并一直持續(xù)到今天。2017年12月，AngelList（一個連接初創(chuàng)企業(yè)與天使投資者和求職者的網(wǎng)站）列出了3，792個AI初創(chuàng)企業(yè); 2，592名關(guān)聯(lián)天使投資者；和2，521個相關(guān)的職位空缺。根據(jù)Pitchbook的數(shù)據(jù)，風險資本家在2007年投資了2.85億美元用于AI初創(chuàng)公司，2015年投資了40億美元，2016年投資了54億美元，2017年1月至2017年10月投資了76億美元; 2007年至2017年間，風險投資對AI的投資總額超過250億美元。根據(jù)CBInsights，僅在2016年，就有658家AI初創(chuàng)公司獲得了資金，并正在積極推行其商業(yè)計劃。實際上，今天要獲得風險投資，大多數(shù)新業(yè)務計劃都至少需要提及AI。

圖1：人工智能初創(chuàng)企業(yè)的風險投資（來源：Pitchbook）

3、第一個AI炒作周期-快速回顧

當前對AI的炒作極大地讓人聯(lián)想到1956年至1973年之間的第一個AI炒作周期的繁榮階段所發(fā)生的情況（本系列的第一篇文章）。的確，在人工智能方面取得了幾項顯著進步之后（例如，第一個進行了跳棋的自學程序，以及引入了神經(jīng)網(wǎng)絡(luò)），政府機構(gòu)和研究機構(gòu)很快就在人工智能研究中投入了大量資金。在這種受歡迎程度的推動下，人工智能研究人員也迅速做出了關(guān)于強大人工智能的開始的大膽預測。例如，在1961年，馬文·明斯基（Marvin Minsky）寫道：“在我們一生中，機器可能會超越我們的一般智慧” 。

但是，這種欣喜是短暫的。到1970年代初，當人們對AI的期望沒有實現(xiàn)時，幻滅了的投資者撤回了他們的資金。當AI的研究進展緩慢，甚至“人工智能”一詞被拒絕時，這導致了AI破產(chǎn)階段。回顧過去，人工智能繁榮階段的消亡可以歸因于以下幾個主要障礙：

3.1 有限且昂貴的計算能力

1970年代的計算能力非常昂貴，而且還不足以模仿人類的大腦。例如，創(chuàng)建一個人腦大小的人工神經(jīng)網(wǎng)絡(luò)（ANN）會在1974年消耗掉整個美國的GDP。

3.2 人類思想背后的奧秘

科學家不了解人腦如何運作，尤其是不了解創(chuàng)造力，推理和幽默背后的神經(jīng)機制。缺乏對機器學習程序應該嘗試模仿的精確范圍的認識，在推動人工智能理論發(fā)展中產(chǎn)生了重要問題。正如麻省理工學院教授休伯特·德雷福斯（Hubert Dreyfus）簡要解釋的那樣，“這些程序缺乏四歲兒童的直觀常識”，而且沒人知道如何進行。

上面提到的第一個難題可以歸為機械難題，而第二個難題可以歸結(jié)為概念難題。兩者都是40年前AI繁榮第一階段的結(jié)束。到1982年，明斯基本人已經(jīng)推翻了他以前的樂觀觀點，他說：“我認為鋁的問題是有史以來最困難的科學之一”。

圖2：尚未完全了解其功能的人腦

3.3 沒有概念上的突破

顯然，在“危險游戲”中擊敗人類，IBM Watson在2011年所做的事絕非易事；但是，它僅提供類事實作為對《危險》中各種問題的答案！隨后有關(guān)IBM Watson的聲明和廣告暗示，它可以幫助解決一些與人類有關(guān)的難題（例如，幫助癌癥研究和尋找替代療法）；然而，與MD安德森癌癥中心和其他醫(yī)院的后續(xù)工作表明，它遠沒有達到這樣的預期。實際上，如今沒有任何AI系統(tǒng)甚至接近HAL 9000，這是一臺人工智能計算機，在電影《 2001：太空漫游》中被描繪為對手 。

在過去的40年中，基本上發(fā)生的事情是在上述第一個（機械）問題上取得了重大進展。此處的促進原理是摩爾定律，該定律預測電子電路中的晶體管數(shù)量應每兩年大約增加一倍。結(jié)果，自1970年代以來，計算的成本和速度提高了110萬倍。這導致了無處不在且廉價的硬件和連接性，允許數(shù)十年前在第一個炒作周期中發(fā)明的一些理論進展（例如，反向傳播算法）和一些新技術(shù)在實踐中表現(xiàn)明顯更好，主要是通過啟發(fā)式和工程學的繁瑣應用技能。

但是，仍然缺乏在概念上的突破，它可以提供對上述第二個問題的深刻見解：我們?nèi)匀徊淮_定如何創(chuàng)建真正模仿智能生活的機器以及如何賦予其“直覺”或“常識”或能夠很好地執(zhí)行多項任務的能力（例如人類）。即使在最現(xiàn)代的AI程序中，這也導致了幾個明顯的缺陷（在下面詳細說明），這使得它們在大規(guī)模使用中不切實際。

任何足夠先進的技術(shù)都無法與魔術(shù)區(qū)分開——亞瑟·克拉克（Arthur C. Clarke），1973年

4、現(xiàn)代的AI中明顯的缺陷

4.1 當前的深度學習網(wǎng)絡(luò)并不強大

2015年，Nguyen，Yosinki和Clune檢查了領(lǐng)先的圖像識別深層神經(jīng)網(wǎng)絡(luò)是否易受假陽性的影響。他們通過擾動模式生成隨機圖像，并向這些神經(jīng)網(wǎng)絡(luò)顯示原始模式及其變異副本（這些網(wǎng)絡(luò)使用ImageNet的標記數(shù)據(jù)進行了訓練）。盡管擾動模式（下面的圖3中描述了其中的八個）基本上沒有任何意義，但是它們被這些網(wǎng)絡(luò)錯誤地識別為國王企鵝，海星等，占99％以上的置信度。

另一個研究小組表明，通過佩戴某些迷幻眼鏡，普通人可能會愚弄面部識別系統(tǒng)，以為自己是名人。這樣一來，人們就可以相互模仿，而不會被這種系統(tǒng)檢測到。同樣，2017年的研究人員在路標上添加了貼紙，這導致ANN將其分類錯誤，這可能對自動駕駛汽車造成嚴重后果。在這些AI系統(tǒng)變得足夠健壯到不會被此類干擾所欺騙之前，行業(yè)廣泛采用它們是不可行的。

4.2 機器學習系統(tǒng)仍然效率低下

機器學習算法需要成千上萬的貓（和非貓）圖片，然后才能開始準確區(qū)分它們。如果AI系統(tǒng)在與過去大不相同的情況下運行（例如，由于股票市場崩潰），這可能會給AI系統(tǒng)帶來嚴重的問題；由于AI系統(tǒng)可能沒有足夠大的數(shù)據(jù)集來進行充分訓練，因此它可能會失敗。

4.3 深度學習網(wǎng)絡(luò)難以改進

盡管深度學習算法有時會產(chǎn)生優(yōu)異的結(jié)果，但它們通常是“黑匣子”，甚至研究人員目前也無法建立理論框架來理解它們?nèi)绾位驗槭裁唇o出答案。例如，達德利（Dudley）和他的同事在山峰（Mt. 西奈醫(yī)院可以在很大程度上預見精神分裂癥的發(fā)作，但達德利遺憾地指出：“我們可以建立這些模型，但我們不知道它們?nèi)绾伟l(fā)揮作用” 。

由于我們不了解AI程序處理的數(shù)據(jù)與其最終答案之間的直接因果關(guān)系，因此系統(tǒng)地改進AI程序仍然是一個嚴重的問題，通常是通過反復試驗來完成的。出于同樣的原因，如果出現(xiàn)問題，很難解決這些問題。鑒于這些問題以及人們被教導要“處理”原因（而不是癥狀）的事實，至少在任何時候，許多行業(yè)不太可能能夠依靠深度學習程序。例如，醫(yī)生不太可能僅根據(jù)程序的預測即患者很快會成為精神分裂癥而向患者給藥。的確，如果程序的預測不準確，并且患者由于使用不當藥物引起的副作用而患病。

4.4 摩爾定律將在十年內(nèi)結(jié)束

如前所述，根據(jù)摩爾定律預測電路中晶體管數(shù)量的指數(shù)增長速度，是影響我們AI進步的最重要原因。在達到一個硅原子的理論極限之前，當今的晶體管尺寸最多可以減少4900倍。2015年，摩爾本人說：“我認為摩爾定律將在未來十年左右消失” ［117］。因此，尚不清楚在摩爾定律消亡之前是否會開發(fā)出強大的通用人工智能系統(tǒng)。

5、人工智能系統(tǒng)對人類社會的短期影響

5.1 適應不良的基礎(chǔ)設(shè)施

即使解決了前面提到的AI系統(tǒng)問題，以下原因也表明，仍必須付出大量努力才能使公司，組織和政府的基礎(chǔ)架構(gòu)適應廣泛采用AI程序的情況：

現(xiàn)代AI算法通常需要強大的（數(shù)千個內(nèi)核）處理能力。但是，很少有組織在單個群集中安裝具有100個以上內(nèi)核的并行計算基礎(chǔ)架構(gòu)，并且安裝較大規(guī)模的系統(tǒng)既費時又昂貴。原則上，組織可以將其數(shù)據(jù)發(fā)送到技術(shù)公司（例如Amazon Web Services或Google Cloud），后者可以大規(guī)模提供并行和分布式計算。但是，由于風險（例如，數(shù)據(jù)泄露）和合規(guī)性原因，許多組織無法使用此類服務。

大型公司中的數(shù)據(jù)通常駐留在數(shù)千個不同的數(shù)據(jù)庫和位置中。這些數(shù)據(jù)大多數(shù)都是“嘈雜的”，如果AI系統(tǒng)以當前形式使用此數(shù)據(jù)，則它們很可能會失敗。清理和協(xié)調(diào)數(shù)據(jù)是一項艱巨而耗時的任務，數(shù)據(jù)工程目前是部署AI系統(tǒng)的最大瓶頸，占其時間和成本的60％以上。大多數(shù)組織尚未開始大規(guī)模清理其數(shù)據(jù)，而少數(shù)已經(jīng)開始這樣做的組織則預計將花費兩到五年的時間。

上游或下游的變化（例如，不斷變化的法規(guī)或商業(yè)環(huán)境）可能會迫使AI系統(tǒng)進行重新配置，重新培訓，重新驗證和重新測試；如前所述，這可能會導致嚴重問題，因為AI程序可能缺少新的培訓數(shù)據(jù)。

圖5：協(xié)調(diào)大數(shù)據(jù)就像弄清了許多拼圖一樣

5.2 人類工作的短期未來

盡管弗雷和奧斯本（Frey and Osborne）預測：“美國總就業(yè)人數(shù)的47％屬于高風險類別，……大概在一兩年之內(nèi)。” 大型技術(shù)公司，戰(zhàn)略公司和智囊團的研究部門長期以來一直低估（至少兩倍）的歷史，具體的技術(shù)進步影響人類社會需要多長時間。原因是這些分析通常無法解決關(guān)鍵問題：全球經(jīng)濟并非一帆風順-變化需要時間。如果人類能夠幫助他們，他們很快就會適應現(xiàn)代技術(shù)，但是如果它傷害了他們，他們就會非常有抵抗力，這種現(xiàn)象很難量化。

例如，在過去的四十年中，通過使用外包，在高薪國家中已經(jīng)有很大的機會可以將勞動力成本降低四分之一。從1979年左右開始，美國將制造業(yè)工作外包給低薪國家，但由于到2016年，美國由于外包而累計損失了不到800萬個制造業(yè)工作。同樣，美國的服務工作外包始于1990年代，但美國已累計損失了約500萬個此類工作。因此，外包造成的工作損失總計約1300萬，約占美國1.61億工作人口的8％。如果全球經(jīng)濟發(fā)展順利，弗雷和奧斯本預測的大部分（如果不是全部）47％的工作將流失給外包。

此外，除非在概念上有重大突破，否則先前提到的AI程序的不足也將導致在未來的15年內(nèi)不太可能因自動化而大量失去工作。的確，人工智能系統(tǒng)在學到的知識上做得很好，但是如果它們的規(guī)則被細微地干擾，就會很快失敗。如果工作受到威脅，人們可以輕松利用這一事實，例如，如果使用自動駕駛軟件，出租車司機可能與其他人合謀引入導致事故的惡意軟件（或在停車標志上貼上標簽，如上所述）。同樣，可以通過不斷變異惡意軟件攻擊其防御來擊敗ANN ；錯誤的人可以使用此方法將錯誤數(shù)據(jù)走私到ANN訓練集中，從而破壞了AI系統(tǒng)的學習過程。

最后值得一提的一點是，在接下來的15年中將創(chuàng)造更多的工作，這在Frey和Osborne的分析或隨后的任何分析中都沒有考慮。

5.3 投資收益

由于上述原因，人工智能系統(tǒng)的采用和實施可能會慢于投資者的設(shè)想。因此，目前尚不清楚金融家是否會從他們的AI投資中獲得收益。在過去十年中，AI投資的總價值超過250億美元，特別是因為只有11家受資助的私人公司的市值達到或超過10億美元。實際上，自2012年以來，在AI的70項并購交易中，有75％的交易價格低于5，000萬美元，是“收購雇員”（為人才而非業(yè)務績效而收購的公司）；大多數(shù)由投資者資助的公司籌集的資金不足1000萬美元。至少到目前為止，在人工智能上投入少量資金可能會產(chǎn)生不錯的回報，但效果卻不佳。

6、結(jié)論

過去幾年標志著AI新的炒作周期的開始。該領(lǐng)域的最新進展引起了研究人員和公眾的興趣，他們開始對強大的AI的產(chǎn)生做出令人震驚的預測，而金融家也開始對AI研究投入大量資金。和初創(chuàng)公司。這讓人聯(lián)想起四十五年前的第一個AI繁榮階段。人工智能領(lǐng)域也看到了許多驚人的進步，大膽的預測和大量的投資。最終，這一繁榮階段崩潰了，主要是由于兩個原因。首先是機械的，由于1970年代有限且昂貴的計算能力。第二個是概念性的，因為缺乏對“直覺”和“人類思想”的理解，很大程度上由于摩爾定律，第一個問題已得到實質(zhì)解決。在過去的40年中，硬件的成本和功能提高了超過一百萬倍，從而可以使用無處不在且價格合理的硬件來制作更好的AI程序。但是，第二個問題仍未解決。此外，即使是最現(xiàn)代的AI程序，也存在重大缺陷，這些方案對擾動仍然很敏感，學習者的效率低下，難以改進。即使解決了這些問題，當前企業(yè)和政府的基礎(chǔ)設(shè)施似乎也無法快速大規(guī)模地整合AI程序。因此，研究人員，投資者和公眾（關(guān)于AI）的大膽期望不太可能在未來十五年內(nèi)實現(xiàn)。

盡管AI的許多舉動都導致了驚人的發(fā)展，但其中很多似乎也基于“非理性繁榮” ，而不是事實。在AI系統(tǒng)真正模仿智能生活之前，我們似乎仍需要重大突破。正如約翰·麥卡錫（John McCarthy）在1977年所指出的那樣，創(chuàng)建類似人類的AI計算機將需要“概念上的突破”，因為“您想要的是愛因斯坦的1.7和曼哈頓計劃的0.3，而您首先要的是愛因斯坦。我相信它將需要5到500年” 。四十年后，他的發(fā)言現(xiàn)在似乎同樣適用。

圖6：映射嚙齒動物大腦的神經(jīng)元

但是，研究人員正在繼續(xù)開拓可能導致此類突破的道路。例如，由于人工神經(jīng)網(wǎng)絡(luò)和強化學習系統(tǒng)的靈感來自于神經(jīng)科學，因此一些學者認為，新的概念性見解可能需要將生物學，數(shù)學和計算機科學相結(jié)合來進行多學科研究。實際上，MICRoNS（來自皮質(zhì)網(wǎng)絡(luò)的機器智能）項目是首次嘗試繪制嚙齒動物大腦的圖，該大腦具有大約100，000個神經(jīng)元和大約10億個突觸。美國政府（通過IARPA）已資助了這一億美元的研究計劃，哈佛大學，普林斯頓大學，貝勒醫(yī)學院和艾倫人工智能研究所的神經(jīng)科學家和計算機科學家正在合作以使其成功。MICrONS的計算目標包括學習執(zhí)行復雜信息處理任務的能力，例如單次學習，無監(jiān)督聚類和場景解析，最終目標是獲得類似于人的熟練程度。如果成功，該項目可能會為下一代AI系統(tǒng)創(chuàng)建基礎(chǔ)塊。

MICRoNS（來自皮質(zhì)網(wǎng)絡(luò)的機器智能）項目是首次嘗試繪制嚙齒動物大腦的圖，該大腦具有大約100，000個神經(jīng)元和大約十億個突觸。如果成功，該項目可能會為下一代AI系統(tǒng)創(chuàng)建基礎(chǔ)塊。