預(yù)測(cè)用戶喜歡的音樂類型、檢測(cè)出轉(zhuǎn)移性腫瘤、生成腦癌的綜合掃描、利用真實(shí)世界中拍攝的視頻創(chuàng)造出虛擬環(huán)境、識(shí)別出被拐賣的人口、擊敗國際象棋大師以及專業(yè)的 Dota2 電競(jìng)團(tuán)隊(duì)、幫助 Alphabet 旗下的 Waymo 首次推出商業(yè)無人駕駛出租車服務(wù)、代替出租車司機(jī)掌控方向盤，上面提到的這些只是人工智能系統(tǒng)在 2018 年取得的諸多成就的冰山一角，這也證明了該領(lǐng)域的發(fā)展速度如火箭一般迅速。按照目前的變化速度，麥肯錫全球研究院的分析師預(yù)測(cè)，僅在美國，未來 12 年人工智能就將幫助人們實(shí)現(xiàn) 20% 到 25 % 的凈經(jīng)濟(jì)收益（相當(dāng)于全球范圍內(nèi)收益達(dá)到 13 億美元）。

在目前的人工智能系統(tǒng)中，一些最令人印象深刻的工作都是起源于對(duì)深度神經(jīng)網(wǎng)絡(luò)（DNN）的研究，DNN 是一種基于數(shù)據(jù)表征的機(jī)器學(xué)習(xí)架構(gòu)。它們是大致基于人腦建模的：DNN 包括與突觸相連的人工神經(jīng)元（即數(shù)學(xué)函數(shù)），它們能夠通過突觸結(jié)構(gòu)將信號(hào)傳遞給其他神經(jīng)元。神經(jīng)元分層排列，這些信號(hào)（數(shù)據(jù)或輸入的積）被送入 DNN，從一層傳遞到另一層，并通過調(diào)整每個(gè)神經(jīng)連接的突觸強(qiáng)度（權(quán)重）緩慢地對(duì) DNN 進(jìn)行「調(diào)優(yōu)」。 隨著時(shí)間的推移，經(jīng)過數(shù)百甚至數(shù)百萬個(gè)周期的迭代訓(xùn)練，網(wǎng)絡(luò)可以從數(shù)據(jù)集中提取特征，并識(shí)別樣本中的趨勢(shì)，最終學(xué)會(huì)做出新的預(yù)測(cè)。

就在 30 年前，David Rumelhart、Geoffrey Hinton 和 Ronald Williams 合著的巨著「Learning representation by Back-propagating Errors」（https://www.nature.com/articles/323533a0）詳細(xì)闡述了一種基本的權(quán)重計(jì)算技術(shù)——反向傳播。 在越來越便宜、越來越魯棒的計(jì)算機(jī)硬件的輔助下，反向傳播技術(shù)使計(jì)算機(jī)視覺、自然語言處理、機(jī)器翻譯、藥物設(shè)計(jì)和材料檢測(cè)等領(lǐng)域的研究取得了巨大飛躍。

通用人工智能面臨的挑戰(zhàn)

那么，DNN 是超級(jí)智能機(jī)器人出現(xiàn)的先兆嗎？Demis Hassabis 不這么認(rèn)為（他的話具有一定權(quán)威性）。Demis Hassabis 是 DeepMind 的聯(lián)合創(chuàng)始人，DeepMind 是一家總部位于倫敦的機(jī)器學(xué)習(xí)初創(chuàng)公司，創(chuàng)立宗旨是將神經(jīng)科學(xué)和計(jì)算機(jī)科學(xué)知識(shí)用于創(chuàng)造通用人工智能。換句話說，這種系統(tǒng)可以成功地完成人類所能完成的任何智能化的任務(wù)。

「還有很長的路要走，」Demis Hassabis 在 12 月初于蒙特利爾舉行的 2018 年神經(jīng)網(wǎng)絡(luò)會(huì)議（ NeurIPS ）上說。「從某種意義上來說，游戲或棋類游戲所處的環(huán)境十分簡單，因?yàn)闋顟B(tài)之間的過渡模型可以被定義得非常詳細(xì)，而且易于學(xué)習(xí)。真實(shí)世界的 3D 環(huán)境和真實(shí)世界本身要復(fù)雜得多……但如果你有開發(fā)通用人工智能的計(jì)劃，這也很重要」。

Hassabis 是一名國際象棋奇才，畢業(yè)于劍橋大學(xué)，早年曾擔(dān)任視頻游戲「主題公園」和「黑與白」的首席程序員。他曾在倫敦大學(xué)學(xué)院、麻省理工學(xué)院和哈佛大學(xué)學(xué)習(xí)神經(jīng)科學(xué)，并在哈佛大學(xué)合作撰寫了關(guān)于自傳性記憶和情節(jié)記憶系統(tǒng)的研究論文。2010 年，他參與創(chuàng)立 DeepMind，僅僅三年后，DeepMind 就發(fā)布了一個(gè)只使用 Atari 游戲中的原始像素作為輸入的開創(chuàng)性人工智能系統(tǒng)。

自從谷歌斥資 4 億英鎊收購 DeepMind 以來，該公司及其醫(yī)學(xué)研究部門 DeepMind Health 一直以它們的產(chǎn)品 AlphaGo 占據(jù)各大媒體頭條。 AlphaGo 是一種人工智能系統(tǒng)，在中國圍棋比賽中擊敗了世界冠軍李世石。谷歌還與倫敦大學(xué)學(xué)院醫(yī)院持續(xù)合作，他們用于該醫(yī)院的 CT 掃描圖像的分割模型展示出了「接近人類專家的性能表現(xiàn)」。最近，DeepMind 的研究人員發(fā)明了一種蛋白質(zhì)折疊算法 AlphaFold，該算法成功識(shí)別了 43 種蛋白質(zhì)中 25 種蛋白質(zhì)的最精確結(jié)構(gòu)，獲得了第 13 屆蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)技術(shù)競(jìng)賽（Critical Assessment of Techniques for Protein Structure Prediction ，CASP）一等獎(jiǎng)。 2018 年 12 月，DeepMind 在 Science 雜志上發(fā)表論文——AlphaZero 系統(tǒng)，這一系統(tǒng)是 AlphaGo 的繼承者，可以在 3 種不同的游戲（國際象棋、日本將棋和圍棋）中取得足以擊敗人類著名棋手的性能。

盡管 DeepMind 取得了令人印象深刻的成就，但Hassabis 提醒人們，他們絕不是在暗示通用人工智能即將成為現(xiàn)實(shí)（現(xiàn)在還為時(shí)過早）。他說，與今天的人工智能系統(tǒng)不同，人類是利用自身掌握的關(guān)于世界知識(shí)來進(jìn)行預(yù)測(cè)和規(guī)劃。而與圍棋、國際象棋和將棋的初學(xué)者相比，AlphaGo 和 AlphaZero在信息方面處于劣勢(shì)。

Hassabis 說：「首先，這些人工智能系統(tǒng)需要先學(xué)會(huì)看別人玩游戲，然后它們會(huì)學(xué)習(xí)自己玩游戲」。「人類玩家可以比算法更快地學(xué)會(huì)玩 Atari 游戲之類的游戲。因?yàn)樗麄兛梢韵喈?dāng)迅速地判斷圖案中的像素的意義，以確定他們是否需要逃離這個(gè)圖案代表的物體或朝這個(gè)方向前進(jìn)」。

要想讓 AlphaZero 這樣的機(jī)器模型能夠打敗人類，大約需要在一個(gè)安裝了數(shù)千個(gè)谷歌設(shè)計(jì)的為機(jī)器學(xué)習(xí)優(yōu)化過的應(yīng)用程序?qū)Ｓ?a href="http://www.1cnz.cn/v/tag/137/" target="_blank">芯片上訓(xùn)練 70 萬步（每一步代表4096個(gè)棋盤位置）。換算成時(shí)間的話，相當(dāng)于對(duì)于國際象棋需要經(jīng)過 9 個(gè)小時(shí)的訓(xùn)練；對(duì)于將棋來說，需要經(jīng)過 12 個(gè)小時(shí)的訓(xùn)練；而對(duì)于圍棋來說，則需要經(jīng)過 13 天的訓(xùn)練。

Deepmind 并不是唯一一個(gè)需要解決人工智能系統(tǒng)設(shè)計(jì)局限性的公司。

2018 年早些時(shí)候，總部位于舊金山的非營利人工智能研究公司 OpenAI （由 Elon Musk、Reid Hoffman、Peter Thiel 以及其他科技界名人支持）在一篇博客文章中揭開了 OpenAI Five 的神秘面紗。2018 年夏天，OpenAI Five 擊敗了一個(gè)包含四名 Dota 2 職業(yè)玩家的五人團(tuán)隊(duì)。該組織稱，這一系統(tǒng)每天在帶有 256 個(gè) Nvidia Tesla P100 顯卡和 128,000 個(gè)處理器核心的谷歌云平臺(tái)上，訓(xùn)練時(shí)長相當(dāng)于一個(gè)人玩 180 年游戲（80% 時(shí)間是和自己進(jìn)行對(duì)抗，20% 時(shí)間是和自己過去的決策進(jìn)行對(duì)抗）。在經(jīng)過了所有這些訓(xùn)練后，它也努力將所學(xué)到的技能應(yīng)用到特定游戲之外的任務(wù)中。

「我們沒有能夠高效地將它們的知識(shí)從一個(gè)領(lǐng)域遷移到另一個(gè)領(lǐng)域的系統(tǒng)，我認(rèn)為需要一些概念或特征提取等。」Hassabi說，「針對(duì)游戲構(gòu)建模型相對(duì)容易，因?yàn)閺囊粋€(gè)步驟過渡到另一個(gè)步驟很容易，但我們希望能夠使系統(tǒng)具有生成模型的能力，這將使我們能夠更容易地在更復(fù)雜的環(huán)境中執(zhí)行規(guī)劃任務(wù)」。

如今大多數(shù)的人工智能系統(tǒng)都不具備很好的擴(kuò)展能力。AlphaZero、AlphaGo、OpenAI Five 利用了一種被稱為強(qiáng)化學(xué)習(xí)的編程模式，在這種模式下，一個(gè)被人工智能算法控制的軟件智能體（agent）可以在一個(gè)環(huán)境（environment，例如一個(gè)棋盤游戲，或者一個(gè) MOBA類游戲）中學(xué)著采取相應(yīng)的行動(dòng)（action）以獲得最大化的獎(jiǎng)勵(lì)（reward）。

在接受 VentureBeat 采訪時(shí)，Hinton 說：我們不妨想象一下斯金納箱（雷鋒網(wǎng)注：斯金納通過實(shí)驗(yàn)發(fā)現(xiàn)，動(dòng)物的學(xué)習(xí)行為是隨著一個(gè)起強(qiáng)化作用的刺激而發(fā)生的。斯金納把動(dòng)物的學(xué)習(xí)行為推而廣之到人類的學(xué)習(xí)行為上，他認(rèn)為雖然人類學(xué)習(xí)行為的性質(zhì)比動(dòng)物復(fù)雜得多，但也要通過操作性條件反射。），這有助于我們對(duì)強(qiáng)化學(xué)習(xí)進(jìn)行理解。斯金納箱名字來源于哈佛大學(xué)的先驅(qū)心理學(xué)家 B.f. 斯金納利用操作性條件反射來訓(xùn)練受試動(dòng)物執(zhí)行一些動(dòng)作的實(shí)驗(yàn)，比如按下一個(gè)杠桿，讓動(dòng)物來響應(yīng)刺激（如光或聲音）。當(dāng)受試者正確地完成一項(xiàng)行為時(shí)，他們會(huì)得到某種形式的獎(jiǎng)勵(lì)（通常是以食物或水的形式）。

人工智能研究中的強(qiáng)化學(xué)習(xí)方法的問題在于獎(jiǎng)勵(lì)信號(hào)往往是「非常微弱的」，Hinton 說。在某些環(huán)境下，智能體會(huì)陷入在隨機(jī)數(shù)據(jù)中尋找模式的困境，即所謂的「噪聲電視問題」（一個(gè)智能體被置于一個(gè)迷宮中，并要找到一個(gè)非常有價(jià)值的物體的實(shí)驗(yàn)，詳情請(qǐng)參閱 AI 科技評(píng)論文章：「你需要新的好奇心方法克服強(qiáng)化學(xué)習(xí)中的「拓展癥」」）

Hinton 說：「有時(shí)候，你會(huì)得到一個(gè)標(biāo)量信號(hào)，告訴你目前模型運(yùn)行良好，但這種信號(hào)并不常見，信息量也不多。而你卻希望僅僅基于這個(gè)非常微弱的信號(hào)，就訓(xùn)練帶有數(shù)百萬個(gè)參數(shù)或數(shù)萬億個(gè)參數(shù)的系統(tǒng)。這時(shí)，你只能求助于大量的計(jì)算（許多效果驚人的演示樣例都需要依賴大量的計(jì)算）。這是解決問題的一個(gè)方向，但我卻并不認(rèn)為這種方式非常具有新引力。我認(rèn)為研究人員需要有更深刻的思考」。

Hinton 和Hassabis 一樣，他對(duì)自己的說法很有把握。Hinton 被一些人稱為「深度學(xué)習(xí)教父」。在過去 30 年中，Hinton 一直致力于解決人工智能面臨的一些最大的挑戰(zhàn)。現(xiàn)在，他既要率領(lǐng)谷歌大腦深度學(xué)習(xí)研究團(tuán)隊(duì)，也有在多倫多大學(xué)擔(dān)任教職。除了在 DNN領(lǐng)域的開創(chuàng)性工作，Hinton 還在機(jī)器學(xué)習(xí)、知覺、記憶和符號(hào)處理方面撰寫或合著了 200 多篇經(jīng)過同行評(píng)審的出版物，而且他最近把注意力轉(zhuǎn)向了膠囊神經(jīng)網(wǎng)絡(luò)，這是一種包含有助于建立更穩(wěn)定的表征結(jié)構(gòu)的機(jī)器學(xué)習(xí)系統(tǒng)。

他說，幾十年體系化的研究經(jīng)歷使他確信，解決強(qiáng)化學(xué)習(xí)的可擴(kuò)展性問題的方法是用層次結(jié)構(gòu)來增強(qiáng)信號(hào)。

Hinton 解釋說：「假設(shè)你擁有一個(gè)龐大的組織，你會(huì)從組織的頂層發(fā)出強(qiáng)化信號(hào)。例如，首席執(zhí)行官被告知公司今年獲得了大量利潤，這就是他的強(qiáng)化信號(hào)。假設(shè)每季度會(huì)發(fā)出一次這樣的強(qiáng)化信號(hào)，這并不意味著要訓(xùn)練一大群等級(jí)森嚴(yán)的人去完成一些任務(wù)，但是如果首席執(zhí)行官下面有幾個(gè)副總裁，并且給每個(gè)副總裁分配一個(gè)目標(biāo)，以使他的收益最大化，這會(huì)帶來更多的利潤，他也會(huì)得到獎(jiǎng)勵(lì)」。

Hinton 說，在這種安排下，即使沒有回報(bào)，也許是因?yàn)閷W(xué)著這樣做的首席執(zhí)行官給副總裁設(shè)定了錯(cuò)誤的目標(biāo)（但這個(gè)每季度一次的循環(huán)周期仍將繼續(xù)），副總裁總能學(xué)到一些東西，這些東西在未來很可能會(huì)變得有用。

他補(bǔ)充道：「通過制定次級(jí)目標(biāo)，并提供報(bào)酬來實(shí)現(xiàn)這些次級(jí)目標(biāo)，可以通過制造更多微弱的信號(hào)來放大這些微弱的信號(hào)」。

這是一個(gè)看似復(fù)雜的思維實(shí)驗(yàn)。可以看出來，這些副總裁需要建立一個(gè)溝通渠道，即中層和低層管理人員交流的渠道，與其他人溝通最終目標(biāo)、次級(jí)目標(biāo)和相關(guān)的獎(jiǎng)勵(lì)條件。系統(tǒng)中的每個(gè)「雇員」都需要能夠決定他們是否做了正確的事情，這樣他們才能知道他們?cè)谑裁辞闆r下會(huì)得到獎(jiǎng)勵(lì)。所以他們需要一個(gè)語言系統(tǒng)。

Hinton 說：「這是一個(gè)讓系統(tǒng)中的模塊為其他模塊創(chuàng)建子目標(biāo)的問題。你可以想象一個(gè)牧羊人和一只牧羊犬。他們創(chuàng)造了一種語言（不是英語），訓(xùn)練有素的牧羊犬和牧羊人可以非常好地交流。但是想象一下，如果牧羊犬有自己的牧羊犬。 然后它必須理解、總結(jié)出這個(gè)牧羊人手勢(shì)中的信息，并編造一些方法來和子牧羊犬（牧羊犬的牧羊犬）交談，從而傳達(dá)這些信息」。

幸運(yùn)的是，最近被稱為 Transformers 的人工智能的突破性進(jìn)展可能是人們朝著正確方向邁出的一步。

谷歌的研究人員在去年發(fā)表的一篇博文和附錄的一篇論文（「Attention Is All You Need」，https://arxiv.org/abs/1706.03762）中，介紹了一種新型的神經(jīng)結(jié)構(gòu)（上面提到的 Transformers），它能夠在語言翻譯任務(wù)中取得比目前最先進(jìn)的模型更好的性能，同時(shí)所需的訓(xùn)練計(jì)算量也更少。

基于「Transformers」中的工作，谷歌于 2018 年 11 月開源了 Transformers 中的雙向編碼器表征模型 BERT。BERT 通過對(duì)任意語料庫生成的任務(wù)進(jìn)行預(yù)訓(xùn)練來學(xué)習(xí)對(duì)句子之間的關(guān)系進(jìn)行建模，使開發(fā)人員能夠在 30 分鐘內(nèi)在單個(gè) CloudTPU （張量處理單元，谷歌的云托管加速器硬件）上訓(xùn)練最先進(jìn)的自然語言處理模型，同樣的任務(wù)在單個(gè)圖形處理器（GPU）上需要訓(xùn)練幾個(gè)小時(shí)。

Hinton 解釋說：「Transformers 是一種可以選擇路由的神經(jīng)網(wǎng)絡(luò)。在目前的神經(jīng)網(wǎng)絡(luò)中，你的輸入活動(dòng)變化快，而網(wǎng)絡(luò)權(quán)重變化緩慢，這就是問題所在。生物學(xué)告訴你，你想要做的是在活動(dòng)變化很快的情況下，可以在許多不同的時(shí)間尺度上修改突觸，這樣你就可以對(duì)最近發(fā)生的事情有一個(gè)記憶，并且很容易恢復(fù)它。 在 Transformers 中，一組神經(jīng)元得到了一些計(jì)算結(jié)果后，它并不會(huì)直接把它發(fā)送給所有與它相連的神經(jīng)元。經(jīng)過分析后，它會(huì)把計(jì)算結(jié)果發(fā)送給那些知道如何處理該計(jì)算結(jié)果的神經(jīng)元，而不是那些不知道如何處理它的神經(jīng)元」。

這不是什么新的想法。Hinton 指出，在 20 世紀(jì) 70 年代，大多數(shù)關(guān)于神經(jīng)網(wǎng)絡(luò)的研究都著眼于記憶方面，其目標(biāo)是通過修改權(quán)重來存儲(chǔ)信息，這樣就可以利用加權(quán)計(jì)算重新創(chuàng)建信息，而不是簡單地從某種形式的存儲(chǔ)結(jié)果中直接提取信息。

Hinton 表示：「實(shí)際上，你不會(huì)像在文件柜中那樣真正地存儲(chǔ)信息，你只需要對(duì)一些參數(shù)進(jìn)行修改，如果我給你一小部分信息，你就可以填出剩下的部分，就像用一些碎片制造出如恐龍一樣的龐然大物。我想說的是，我們應(yīng)該把這個(gè)想法用于短期記憶，而不僅僅是長期記憶，這樣它將解決各種問題」。

人工智能和算法偏見

展望未來，Hinton 相信，借鑒于生物學(xué)的經(jīng)驗(yàn)，未來的人工智能系統(tǒng)的發(fā)展方向?qū)⒅饕菬o監(jiān)督學(xué)習(xí)的各種變體。無監(jiān)督學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支，它從未標(biāo)記、未分類和未歸類的測(cè)試數(shù)據(jù)中收集知識(shí)。他說，在學(xué)習(xí)數(shù)據(jù)間的共性并且對(duì)這種共性的存在或缺失做出反應(yīng)的能力上，無監(jiān)督學(xué)習(xí)幾乎與人類達(dá)到了相同的水平。

Hinton 說：「通常而言，人們很難獲得帶標(biāo)簽的數(shù)據(jù)。這不像你看到一個(gè)場(chǎng)景，有人把微電極放入你的下顳葉皮層，然后說在這個(gè)場(chǎng)景下應(yīng)該產(chǎn)生一個(gè)電脈沖。我認(rèn)為這是一種更具生物學(xué)意義的學(xué)習(xí)方式。大腦基本上就是這么工作的」。

Hassabis 對(duì)此表示贊同。

Hassabis 說：「我們（DeepMind）正在努力制定一種具有認(rèn)知能力的神經(jīng)科學(xué)研究路線圖，我們認(rèn)為這是擁有一個(gè)功能齊全的人類級(jí)人工智能系統(tǒng)所必需的。它需要能夠具備遷移學(xué)習(xí)的能力、掌握一定的概念性知識(shí)，而且具備某種意義上的創(chuàng)造力，能夠想象未來發(fā)生的情景、反設(shè)事實(shí)并規(guī)劃未來，具備使用語言和符號(hào)推理的能力。這些都是人類可以毫不費(fèi)力地做到的事情」。

然而，隨著人工智能系統(tǒng)變得越來越復(fù)雜，一些技術(shù)專家和倫理學(xué)家擔(dān)心人工智能會(huì)吸收和反映現(xiàn)有訓(xùn)練數(shù)據(jù)中存在的偏見。事實(shí)上，有證據(jù)表明這種情況已經(jīng)發(fā)生了。

谷歌的人工智能研究科學(xué)家最近在一個(gè)免費(fèi)的、開源的數(shù)據(jù)集上建立了一個(gè)預(yù)訓(xùn)練好的人工智能模型（https://venturebeat.com/2018/12/02/googles-inclusive-images-competition-spurs-development-of-less-biased-image-classification-ai/）。在其中一張照片中，一位穿著西式長裙和寬松婚紗的白人新娘被貼上了「連衣裙」、「女人」、「婚禮」和「新娘」等標(biāo)簽。然而，另一個(gè)形象，也是一個(gè)新娘，但是她有著亞裔血統(tǒng)，穿著民族服裝，卻被貼上了「服裝」、「活動(dòng)」、「表演藝術(shù)」等標(biāo)簽。更糟糕的是，這個(gè)模型完全忽略了圖片中的人物。

與此同時(shí)，「華盛頓郵報(bào)」2018 年 7 月進(jìn)行的兩項(xiàng)研究顯示，亞馬遜和谷歌生產(chǎn)的智能音箱聽懂非美國口音的可能性，比聽土生土長的美國人的口音低 30% 。像 Switchboard 這樣由 IBM 和微軟等公司用來測(cè)量語音模型錯(cuò)誤率的數(shù)據(jù)集，已經(jīng)被證明偏向于識(shí)別出來自美國特定地區(qū)的用戶。

計(jì)算機(jī)視覺算法在克服偏見的問題上也沒有表現(xiàn)得更好。

2012 年發(fā)表的一項(xiàng)研究表明，供應(yīng)商 Cognitec 公司開發(fā)的人臉識(shí)別算法在非裔美國人身上的表現(xiàn)比白種人差 5% 到 10%。據(jù)透露，最近由倫敦首都警察安全局部署的一個(gè)系統(tǒng)每次運(yùn)行會(huì)產(chǎn)生多達(dá) 49 個(gè)錯(cuò)誤的匹配結(jié)果。今年夏天，在亞馬遜 Rekognition 服務(wù)的一次測(cè)試中，美國公民自由聯(lián)盟調(diào)查局發(fā)現(xiàn)，當(dāng)他們從一個(gè)「公開的數(shù)據(jù)源」獲取 25000 張照片，并將其與國會(huì)議員的官方照片進(jìn)行比較時(shí)，有 28 張照片被誤認(rèn)為是罪犯。

Hinton 并沒有因?yàn)樨?fù)面新聞而氣餒。他認(rèn)為，人工智能的一個(gè)明顯優(yōu)勢(shì)在于它所提供的靈活性，而數(shù)據(jù)中的偏見可以很容易地被建模。

他說：「任何從數(shù)據(jù)中學(xué)到的東西都會(huì)學(xué)到數(shù)據(jù)中的所有偏見。好消息是，如果你能對(duì)數(shù)據(jù)中的偏見進(jìn)行建模，你就能非常有效地消除這些偏差。有各種各樣的方法可以做到這一點(diǎn)」。

他指出，這在人類身上并不總是奏效。

「如果你讓人們做這些工作，你可以嘗試對(duì)他們的偏見建模，但告訴他們不要有偏見并不能真正減少偏見。因此，我認(rèn)為相較之下，在機(jī)器學(xué)習(xí)系統(tǒng)中，處理偏見要容易得多」。

Hinton 指出，一系列新出現(xiàn)的減輕偏見的工具有望被引入到更加公正的人工智能系統(tǒng)中。

2018 年 5 月，F(xiàn)acebook 發(fā)布了「Fairness Flow」，當(dāng)算法根據(jù)一個(gè)人的種族、性別或年齡做出不公平的判斷時(shí)，它會(huì)自動(dòng)發(fā)出警告。Accenture 也發(fā)布了一個(gè)工具包，可以自動(dòng)檢測(cè)人工智能算法中的偏見，并幫助數(shù)據(jù)科學(xué)家減輕這種偏見。微軟也在 2018 年 5 月推出了自己的解決方案；而在 9 月，谷歌推出了「What-If」工具，它也是谷歌用于 TensorFlow 機(jī)器學(xué)習(xí)框架的TensorBoard 的偏見檢測(cè)功能。

IBM也不甘示弱，于 2018 年秋季發(fā)布了 AI fair 360，這是一款基于云計(jì)算的全自動(dòng)化套件，可以「持續(xù)輸出思考結(jié)果」，幫助人們了解人工智能系統(tǒng)如何做出決策，并推薦一些可能會(huì)減輕偏見影響的調(diào)整方法（比如算法調(diào)整或數(shù)據(jù)平衡）。Watson 和云平臺(tái)研究小組最近的研究著眼于在減少人工智能模型中的偏見，特別是與面部識(shí)別有關(guān)的偏見。

「擁有運(yùn)算速度非常快的計(jì)算機(jī)的一個(gè)好處是，你現(xiàn)在可以編寫一些效率相對(duì)較低的軟件，但這很容易理解，因?yàn)槟愕挠?jì)算機(jī)有飛一般的速度。人們往往不喜歡這么做，但通常而言，你確實(shí)會(huì)想要擁有運(yùn)行速度非常快的計(jì)算機(jī)。在犧牲代碼效率的條件下，你可以在取得令人難以置信的準(zhǔn)確率的情況下，讓編寫代碼的工作不那么復(fù)雜。有了難以置信的準(zhǔn)確性，你就有余地讓它們稍微不那么準(zhǔn)確，從而達(dá)到你想要的其他目的。在我看來，這是一個(gè)公平性和性能的折中」。

人工智能與就業(yè)

Hinton 對(duì)人工智能對(duì)就業(yè)市場(chǎng)的影響也持樂觀態(tài)度。

「有的人認(rèn)為通用人工智能這個(gè)詞帶有這樣的含義：這種機(jī)器人個(gè)體突然會(huì)比你更聰明。我覺得不會(huì)是那樣的，我認(rèn)為，我們做的越來越多的日常事務(wù)將被人工智能系統(tǒng)（如谷歌助手）所取代」。

Forrester 公司的分析師最近預(yù)測(cè)，機(jī)器人過程自動(dòng)化（RPA）和人工智能將在明年為 40% 以上的公司創(chuàng)造數(shù)字化工作者，這種軟件能夠自動(dòng)完成傳統(tǒng)上由人類完成的任務(wù)。到 2019 年，美國將有大約 10% 的工作崗位因自動(dòng)化而消失。此外，世界經(jīng)濟(jì)論壇、普華永道和 Gartner 預(yù)測(cè)，到 2025 年，人工智能將讓 7500 萬人失業(yè)。

但 Hinton 認(rèn)為通用人工智能不會(huì)讓人類被解雇。相反，他表示，人工智能對(duì)世界的認(rèn)識(shí)在很大程度上仍將是短視的，至少在不久的將來是這樣。他相信，人工智能將繼續(xù)以平凡但有意義的方式改善我們的生活。

他說，「未來的人工智能系統(tǒng)將會(huì)非常了解你可能想要做什么，以及如何去做，這將會(huì)非常有幫助。但它不會(huì)取代你。如果你選用了一個(gè)非常擅長自動(dòng)駕駛的系統(tǒng)，然后在第一天就乘坐它出行，我認(rèn)為這將是一場(chǎng)災(zāi)難」。

對(duì)于目前由人類執(zhí)行的危險(xiǎn)任務(wù)，Hinton 認(rèn)為這是朝著正確方向邁出的一步。

「人們真的應(yīng)該害怕坐在一輛由巨大的神經(jīng)網(wǎng)絡(luò)控制的汽車?yán)铮驗(yàn)樗鼰o法告訴你它在做什么，」他說，「我們知道，這樣的工作叫出租車司機(jī)」。