馬丁·福特（Martin Ford）2015 年出版的《機(jī)器人的崛起》一書曾掀起波瀾，該書詳細(xì)介紹了許多自動(dòng)化的加速發(fā)展趨勢(shì)，以及它們?nèi)绾斡绊懮虡I(yè)，特別是就業(yè)。在新書《智能建筑師：AI 建筑者談人工智能真相》中，他試著搞清楚副標(biāo)題到底描述的是什么。本書主要是對(duì)人工智能領(lǐng)域最知名人士進(jìn)行深入訪談。其中之一是 Geoffrey Hinton，他在人工神經(jīng)網(wǎng)絡(luò)方面做出了開創(chuàng)性工作，Hinton 目前是多倫多大學(xué)的計(jì)算機(jī)科學(xué)教授，也參與了 Google Brain 項(xiàng)目，他被自己所在領(lǐng)域的許多人視為“深度學(xué)習(xí)之父”。本文摘自這本新書，Hinton 談到自己如何思考他所開創(chuàng)的先進(jìn)系統(tǒng)對(duì)經(jīng)濟(jì)和社會(huì)的巨大影響，并強(qiáng)調(diào)了解決問題需要區(qū)分社會(huì)系統(tǒng)和技術(shù)系統(tǒng)。當(dāng)然，他也談到了學(xué)術(shù)方面的一些建議和擔(dān)心。

馬丁·福特：我們來談?wù)勅斯ぶ悄艿臐撛陲L(fēng)險(xiǎn)。一個(gè)特殊挑戰(zhàn)是對(duì)就業(yè)市場(chǎng)和經(jīng)濟(jì)的潛在影響。您是否認(rèn)為所有這些都可能導(dǎo)致新的工業(yè)革命并徹底改變就業(yè)市場(chǎng)？如果是這樣，這會(huì)是我們需要擔(dān)心的事情，還是說，它是另一件可能被人們夸大的事情？

Geoffrey Hinton：如果你能夠大幅提高生產(chǎn)力并提供更多好處，那應(yīng)該是一件好事。不過，它是否是一件好事完全取決于社會(huì)系統(tǒng)，而不是技術(shù)。人們正在研究技術(shù)，好像技術(shù)進(jìn)步是一個(gè)問題，但問題在于我們是否會(huì)建立一個(gè)公平分享的社會(huì)系統(tǒng)，還是一個(gè)僅關(guān)注那 1% 的人并將其他社會(huì)人員視如草芥的社會(huì)。這與技術(shù)無關(guān)。

馬丁·福特：不過，接下來問題就來了，因?yàn)楹芏喙ぷ骺赡軙?huì)消失——特別是那些可預(yù)測(cè)且易于自動(dòng)化的工作。基本收入制度是社會(huì)對(duì)這一趨勢(shì)的基本反應(yīng)，你贊同這一制度嗎？

Geoffrey Hinton：是的，我認(rèn)為基本收入是一個(gè)非常明智的想法。

馬丁·福特：那么，您認(rèn)為需要采取政策來解決這個(gè)問題嗎？有些人認(rèn)為應(yīng)該就此打住，但那可能是不負(fù)責(zé)任的。

Geoffrey Hinton：我搬到了加拿大是因?yàn)槎惵瘦^高，因?yàn)槲艺J(rèn)為正確的稅收是好事。政府應(yīng)該做的是建立機(jī)制，以便當(dāng)人們?yōu)樽约旱睦嫘惺聲r(shí)，它會(huì)幫助每個(gè)人。高稅收是一種這樣的機(jī)制：當(dāng)人們致富時(shí)，其他人都會(huì)受到稅收的幫助。我當(dāng)然同意要確保 AI 讓每個(gè)人受益，但還有很多工作要做。

馬丁·福特：對(duì)那些可能與人工智能有關(guān)的其他一些風(fēng)險(xiǎn)，比如武器化，你怎么看？

Geoffrey Hinton：是的，我對(duì)普京總統(tǒng)最近所說的一些事情感到擔(dān)憂。我認(rèn)為人們現(xiàn)在應(yīng)該努力讓國際社會(huì)探討那些可以殺死人的武器，就像他們對(duì)待化學(xué)戰(zhàn)和大規(guī)模殺傷性武器那樣。

馬丁·福特：是否贊成暫停某種類型的研究和開發(fā)？

Geoffrey Hinton：你不會(huì)暫停這種類型的研究，就像你沒有暫停神經(jīng)毒劑的研發(fā)一樣，但確實(shí)存在一種國際機(jī)制阻止它們被廣泛使用。

馬丁·福特：除軍事武器使用外，其他風(fēng)險(xiǎn)如何？是否還有其他問題讓你擔(dān)憂，如隱私和透明度？

Geoffrey Hinton：用它來操縱選舉和操縱選民令人擔(dān)憂。Cambridge Analytica 由 Bob Mercer 成立，他是一名機(jī)器學(xué)習(xí)學(xué)者，你已經(jīng)看到 Cambridge Analytica 造成了很大的破壞。我們必須認(rèn)真對(duì)待。

馬丁·福特：你認(rèn)為需要有監(jiān)管嗎？

Geoffrey Hinton：是的，需要很多監(jiān)管。這是一個(gè)非常有趣的問題，但我不是這方面的專家，所以沒有更多可建議的。

馬丁·福特：怎么看全球軍備競(jìng)賽？一個(gè)國家不要遠(yuǎn)遠(yuǎn)領(lǐng)先于其他國家，這重要嗎？

Geoffrey Hinton：你所談?wù)摰氖侨蛘巍：荛L一段時(shí)間，英國是一個(gè)占主導(dǎo)地位的國家，他們表現(xiàn)得不是很好，然后就是美國，他們表現(xiàn)得不是很好，如果換作中國占主導(dǎo)地位，我不指望他們表現(xiàn)得會(huì)很好。

馬丁·福特：你認(rèn)為我們應(yīng)該采取某種形式的產(chǎn)業(yè)政策嗎？美國和其他西方政府是否應(yīng)該關(guān)注人工智能并將其作為國家優(yōu)先事項(xiàng)？

Geoffrey Hinton：技術(shù)會(huì)有很大的發(fā)展，如果不試圖跟上這一步伐，會(huì)顯得很瘋狂，所以很明顯，應(yīng)該進(jìn)行大量投資。這對(duì)我來說似乎是常識(shí)。

馬丁·福特：總的來說，你對(duì)這一切感到樂觀嗎？你認(rèn)為人工智能的回報(bào)會(huì)超過帶來的負(fù)面影響嗎？

Geoffrey Hinton：我希望回報(bào)超過負(fù)面的東西，但我不知道社會(huì)建設(shè)層面的人是否也這樣想，這是一個(gè)社會(huì)系統(tǒng)問題，而不是技術(shù)問題。

馬丁?福特：人工智能領(lǐng)域人才嚴(yán)重短缺，大家都在招人。對(duì)于想要進(jìn)入這一領(lǐng)域的年輕人，你有什么建議? 有沒有什么建議可以幫助他們吸引更多的人，并使之成為人工智能和深度學(xué)習(xí)領(lǐng)域的專家?

Geoffrey Hinton：我擔(dān)心對(duì)基礎(chǔ)知識(shí)持批判態(tài)度的人不夠多。Capsules 論文是說，也許我們做事情的一些基本方法不是最好的，我們應(yīng)該撒一張更大的網(wǎng)。我們應(yīng)該為正在做的一些基本假設(shè)尋找替代品。我給大家的一個(gè)建議是，如果你的直覺認(rèn)為人們正在做的事情是錯(cuò)誤的，并且可能會(huì)有更好的事情發(fā)生，你就應(yīng)該遵從自己的直覺。

你很可能是錯(cuò)的，但是當(dāng)人們?cè)谥廊绾螐母旧细淖兪虑闀r(shí)，如果不跟著自己的直覺走，就會(huì)陷入困境。我認(rèn)為真正的新想法最豐富的來源是研究生在大學(xué)里得到的良好建議。他們可以自由地提出真正的新想法，并且他們所學(xué)到的東西足以讓他們不僅僅重復(fù)歷史，我們需要保持這一點(diǎn)。攻讀完碩士學(xué)位后直接進(jìn)入這個(gè)行業(yè)的人不會(huì)有什么全新的想法。我認(rèn)為你需要坐下來思考幾年。

馬丁·福特：加拿大似乎是深度學(xué)習(xí)的中心。這是偶然的嗎? 還是加拿大有什么特別的地方促成了這一點(diǎn)?

Geoffrey Hinton：加拿大高級(jí)研究院 (CIFAR) 為高風(fēng)險(xiǎn)領(lǐng)域的基礎(chǔ)研究提供資金，這是非常重要的。Yann LeCun（他曾是我的博士后）和 Yoshua Bengio 都在加拿大，這也帶來了很多好運(yùn)。我們?nèi)撕献鳎軌蚪Y(jié)出累累的碩果，加拿大高級(jí)研究所資助了我們的合作。我們也曾經(jīng)一度被孤立，處境相當(dāng)惡劣——直到最近，深度學(xué)習(xí)的環(huán)境才變得不那么惡劣——這筆資金對(duì)我們很有幫助，讓我們能夠在小型會(huì)議上有相當(dāng)多的時(shí)間相互交流，在那里我們可以真正分享未發(fā)表的想法。