到2021年，幾乎所有日常軟件都將擁有智能，功能也越來(lái)越強(qiáng)大，可以取代人類(lèi)去做越來(lái)越多的工作，這會(huì)對(duì)我們產(chǎn)生什么樣的影響？有些人預(yù)測(cè)會(huì)引發(fā)大規(guī)模失業(yè)或是人類(lèi)與人工智能（AI）爆發(fā)全面戰(zhàn)爭(zhēng)，其他人預(yù)測(cè)的未來(lái)也十分暗淡。然而，卡耐基-梅隆大學(xué)機(jī)器學(xué)習(xí)學(xué)院院長(zhǎng)曼努拉·維羅索教授（Manuela Veloso）卻認(rèn)為，將來(lái)人類(lèi)與智能系統(tǒng)將是不可分割的，他們需要緊密結(jié)合，不斷交流信息，她稱(chēng)這種關(guān)系為“共生自治”。維羅索預(yù)測(cè)，將來(lái)人類(lèi)代理與自動(dòng)化助理之間將很難區(qū)分，但是無(wú)論是人類(lèi)還是軟件，缺少任何一方都將玩不轉(zhuǎn)。

　　維羅索已經(jīng)開(kāi)始在卡耐基-梅隆大學(xué)中測(cè)試自己的理論，并制造了類(lèi)似賽格威外形的漫游機(jī)器人Cobot。這種機(jī)器人可以自動(dòng)護(hù)送客人前往不同的建筑，在無(wú)法滿(mǎn)足客人需求時(shí)，還會(huì)像其他人求助。這是有關(guān)AI研究的新途徑，在未來(lái)5年將產(chǎn)生深遠(yuǎn)影響。維羅索日前在匹茲堡接受專(zhuān)訪，談及機(jī)器人、編程自發(fā)性技術(shù)的進(jìn)展，并挑戰(zhàn)AI對(duì)人類(lèi)造成威脅的說(shuō)法。以下是采訪摘要：

　　問(wèn)：在過(guò)去5年中，我們看到的大趨勢(shì)之一就是自動(dòng)化。與此同時(shí)，我們也看到更多智能系統(tǒng)被植入到已有設(shè)備中，比如智能手機(jī)和電腦等。在接下來(lái)的5年，你認(rèn)為這種趨勢(shì)還會(huì)蔓延到哪些領(lǐng)域？

　　維羅索：將來(lái)，我認(rèn)為人類(lèi)與有望為人類(lèi)提供服務(wù)的AI系統(tǒng)將形成共存關(guān)系。這些AI系統(tǒng)將被植入處理數(shù)字化世界的軟件系統(tǒng)中，同時(shí)被植入圍繞物理空間活動(dòng)的系統(tǒng)中，比如無(wú)人機(jī)、機(jī)器人、自動(dòng)汽車(chē)等。此外，AI也可被用于處理物理空間的系統(tǒng)，比如物聯(lián)網(wǎng)。

　　在物質(zhì)世界，你會(huì)看到越來(lái)越多的智能系統(tǒng)，不僅僅在智能手機(jī)或電腦上，而是存在于我們周?chē)母鞣N設(shè)備上，用于處理和傳感有關(guān)物質(zhì)世界的信息，幫助了解物質(zhì)世界的更多特征，以便于我們做出決定。隨著時(shí)間推移，我們還將看到這些AI系統(tǒng)對(duì)社會(huì)上更廣泛的問(wèn)題產(chǎn)生影響：管理大城市的交通、對(duì)氣候做出復(fù)雜預(yù)測(cè)、支持人類(lèi)作出重大決策等。

　　問(wèn)：現(xiàn)在，有些AI系統(tǒng)的表現(xiàn)還不盡如人意。當(dāng)算法或機(jī)器人做出決定時(shí)，我們并非總能理解它們?yōu)楹巫龀鲞@種決定，以及哪個(gè)決定更值得相信。技術(shù)專(zhuān)家能夠應(yīng)對(duì)這樣的問(wèn)題嗎？

　　維羅索：我的工作之一就是能讓這些機(jī)器可以解釋自身行為，它們需要對(duì)自己的決定負(fù)責(zé)，決定過(guò)程需要保持透明。我們進(jìn)行的許多研究是讓人類(lèi)或用戶(hù)去查詢(xún)系統(tǒng)，而我的機(jī)器人Cobot稍晚到達(dá)我的辦公室時(shí)，我會(huì)問(wèn)“你為何遲到？”、“你走了哪條路線(xiàn)？”

　　我們正致力于賦予這些AI系統(tǒng)新的能力，以便它們解釋自身行為。它們?cè)趯W(xué)習(xí)和改進(jìn)過(guò)程中，也將能夠提供不同層次細(xì)節(jié)的解釋。我們希望能與機(jī)器人進(jìn)行更深的互動(dòng)，最終讓人類(lèi)能夠更信任AI系統(tǒng)。你可能會(huì)問(wèn)它們：“為何你（AI系統(tǒng)）會(huì)那樣說(shuō)？”或“為何你提供這樣的建議？”

　　提供這些解釋恰好是我正在研究的課題，我相信機(jī)器人將能夠做到這一點(diǎn)，這將促使人們更好地理解和信任這些機(jī)器人。最終，通過(guò)這些互動(dòng)，人類(lèi)也可以對(duì)AI系統(tǒng)進(jìn)行糾正。為此，我們正研究試圖對(duì)AI系統(tǒng)進(jìn)行修正，并幫助它們學(xué)習(xí)指令。我認(rèn)為，這對(duì)人類(lèi)與AI系統(tǒng)共存非常重要。

　　問(wèn)：為何你認(rèn)為這些AI系統(tǒng)正快速進(jìn)化？過(guò)去50多年的AI研究取得了哪些進(jìn)展？

　　維羅索：你必須知道，對(duì)于AI系統(tǒng)來(lái)說(shuō)，要想了解什么是手機(jī)、茶杯或某人是否健康，需要學(xué)習(xí)很多知識(shí)。而早期的許多AI研究實(shí)際上就是如何獲得這些知識(shí)。我們可能必須向人類(lèi)詢(xún)問(wèn)，或者在書(shū)上尋找信息，并手動(dòng)向計(jì)算機(jī)中輸入信息。

　　令人感到神奇的是，在過(guò)去幾年中，越來(lái)越多的信息數(shù)字化，似乎整個(gè)世界都被搬到了互聯(lián)網(wǎng)上。為此，AI系統(tǒng)現(xiàn)在已經(jīng)擁有大量數(shù)據(jù)可用，它們也有能力處理這些數(shù)據(jù)，并讓數(shù)據(jù)更有意義。而我們必須找出幫助AI系統(tǒng)的最好方式。另一方面，我們對(duì)此感到十分樂(lè)觀，因?yàn)槲覀冎罃?shù)據(jù)已經(jīng)大量存在。

　　現(xiàn)在的問(wèn)題是，我們?nèi)绾螐臄?shù)據(jù)中獲得見(jiàn)解？你要如何使用它？你如何研究分布，也就是數(shù)據(jù)統(tǒng)計(jì)？你如何將這些碎片拼合起來(lái)？這就是你需要深入學(xué)習(xí)和深度強(qiáng)化學(xué)習(xí)的。系統(tǒng)可以自動(dòng)翻譯，機(jī)器人可以踢足球，所有這些事情都是可能的，因?yàn)槲覀兛梢苑浅８咝У靥幚磉@些數(shù)據(jù)，而我們無(wú)需再花費(fèi)更多精力來(lái)獲取相關(guān)知識(shí)。

　　問(wèn)：過(guò)去5年中，像Siri和Alexa等個(gè)人助理取得了長(zhǎng)足進(jìn)步，它們都有機(jī)器學(xué)習(xí)支持。我很好奇，你認(rèn)為這些系統(tǒng)在未來(lái)5年會(huì)發(fā)生怎樣的變化？

　　維羅索：你知道，我是Alexa的忠誠(chéng)粉絲。我家里就有Alexa，我能與它談及的話(huà)題越來(lái)越廣泛。最初，我只能問(wèn)“今天天氣怎么樣？”這樣的簡(jiǎn)單問(wèn)題。現(xiàn)在，我可以問(wèn)它“我今天有哪些安排？”Alexa正在學(xué)習(xí)，而我也在了解Alexa能做些什么。我對(duì)它隨著時(shí)間推移將會(huì)發(fā)生何種改變也充滿(mǎn)渴望。

　　我可以告訴你一件有趣的事情：當(dāng)我離開(kāi)家時(shí)，我會(huì)告訴Alexa：Alexa，請(qǐng)停下來(lái)！ 我希望它停止播放正在播放的音樂(lè)，因?yàn)槲艺x開(kāi)。但是如果我告訴Alexa：Alexa，我要離開(kāi)了！它還不太理解這句話(huà)的意思，因此也不會(huì)停止播放音樂(lè)。我必須接著補(bǔ)充具體指令，讓它停播音樂(lè)。我認(rèn)為，個(gè)人助理將會(huì)變得越來(lái)越有“指令意識(shí)”，當(dāng)我說(shuō)“我要離開(kāi)了”，它應(yīng)該能理解話(huà)外之意，即停止播放音樂(lè)。現(xiàn)在，這種“指令意識(shí)”也被納入研究日程中。

　　問(wèn)：你認(rèn)為個(gè)人助理最終可進(jìn)化到下列程度嗎？比如我們可以問(wèn)它：檢查下汽車(chē)引擎，我能安全乘坐嗎？或我剛剛接到工作邀約，我應(yīng)該接受嗎？

　　維羅索：我認(rèn)為這完全有可能。這些問(wèn)題都屬于決策問(wèn)題。假如你必須在哪些健康保險(xiǎn)計(jì)劃中做出選擇，而你又對(duì)所有選項(xiàng)感到困惑時(shí)，你可以告訴Alexa自己要去睡覺(jué)，然后請(qǐng)求Alexa幫你閱讀所有保險(xiǎn)計(jì)劃，或你能購(gòu)買(mǎi)的所有車(chē)型，你的孩子能去的所有學(xué)校等。Alexa可以利用晚上時(shí)間，為你整理出完整的報(bào)告。

　　現(xiàn)在，網(wǎng)上已經(jīng)有大量相關(guān)信息。你可以查找所有學(xué)校的特色，查看其他人對(duì)學(xué)校的評(píng)價(jià)。AI系統(tǒng)可以收集這些信息，比如它們距離你家多遠(yuǎn)，其他人的評(píng)論如何等。它們可以了解這些學(xué)校的功能，了解它們過(guò)去的歷史，并處理所有可用信息，為你提供答案和指導(dǎo)，這些信息將令你更容易消化。因?yàn)槟壳熬W(wǎng)上的信息量過(guò)于龐大，有時(shí)候你根本看不過(guò)來(lái)。

　　最終，你可能希望個(gè)人助理告訴你，為何它們會(huì)給你提出當(dāng)前建議。你可能會(huì)問(wèn)：“你為何認(rèn)為我應(yīng)該買(mǎi)那輛車(chē)？我真的不太喜歡這個(gè)品牌。”我認(rèn)為這是非常重要的一步，有了AI系統(tǒng)給予人類(lèi)決策的支持，再結(jié)合你所了解的信息和獲得的企業(yè)反饋，你將可做出更明智的決定。

　　問(wèn)：除了幫助人們做出決定，這些AI助理還能做什么？

　　維羅索：你可以想象下，類(lèi)似系統(tǒng)可用于幫助你處理科學(xué)論文。每年都有無(wú)數(shù)的科學(xué)論文出版，現(xiàn)在它們都已經(jīng)被發(fā)布到網(wǎng)上。你可以想象AI系統(tǒng)幫助研究人員消化所有信息，并尋找與他們興趣相關(guān)的東西。

　　AI系統(tǒng)將依然是網(wǎng)絡(luò)信息產(chǎn)品。許多人正研究這些信息，比如文本信息、圖像信息、流程圖、圖標(biāo)等，并試圖理解這些信息，最終篩選出你可能需要的信息。舉例來(lái)說(shuō)，機(jī)器學(xué)習(xí)有個(gè)名為“主動(dòng)學(xué)習(xí)”的分支領(lǐng)域，如果某個(gè)過(guò)程中沒(méi)有足夠的圖片，它可能希望你添加更多圖片。

　　我認(rèn)為AI系統(tǒng)將可以識(shí)別缺失的圖像，并將網(wǎng)上所有信息連接起來(lái)，必要時(shí)還會(huì)請(qǐng)求更多數(shù)據(jù)。你可以想象下，它會(huì)問(wèn)研究人員：“如果你告訴我更多有關(guān)這些細(xì)胞如何與這種化學(xué)物質(zhì)相互作用的信息，我可以獲得更好的相關(guān)模型。”

　　當(dāng)然，這些自動(dòng)機(jī)器人也存在局限性，它們不可能打開(kāi)所有世界的大門(mén)，因?yàn)闊o(wú)法理解所有口語(yǔ)。但我認(rèn)為，人類(lèi)同樣存在局限性，比如講話(huà)有口音等。顯然，對(duì)于我們來(lái)說(shuō)，這些機(jī)器人和AI系統(tǒng)的主要功能之一將是識(shí)別它們不知道的東西，他們不能做的事情，他們不理解的信息，并向人類(lèi)求助。你能按下電梯按鈕嗎？你能大開(kāi)門(mén)嗎？你能將東西放進(jìn)我的籃子嗎？這就是我所謂的“共生自治”。當(dāng)有些事情是機(jī)器人無(wú)法做到、不知道或不理解的，它們可以向人類(lèi)求助。這是新的思維方式，我們周?chē)腁I系統(tǒng)將會(huì)尋求我們的幫助，需要我們分擔(dān)它們的部分任務(wù)。

　　隨著這些AI系統(tǒng)的增多，這種情況會(huì)變得更加復(fù)雜。系統(tǒng)已經(jīng)可實(shí)現(xiàn)無(wú)線(xiàn)通信，可獲取云端數(shù)據(jù)，或?qū)で筮h(yuǎn)程團(tuán)隊(duì)幫助。你可以想象下，AI系統(tǒng)不斷與任何東西共生，比如互聯(lián)網(wǎng)上的信息、其他AI系統(tǒng)、旁邊的人類(lèi)、遠(yuǎn)程人類(lèi)團(tuán)隊(duì)等。這不再是開(kāi)發(fā)自給自足AI系統(tǒng)的問(wèn)題，而是AI系統(tǒng)可以識(shí)別自己不知道的東西、需要了解更多信息、識(shí)別自己不確定的東西。這并非是說(shuō)AI系統(tǒng)不再注重解決所有問(wèn)題，而是能夠依賴(lài)周?chē)Y源解決問(wèn)題。

　　問(wèn)：你怎么看我們正在使用的AI系統(tǒng)與人類(lèi)共生關(guān)系的改變？

　　維羅索：讓我們回到上述假設(shè)中，即要求AI幫助決定孩子上哪所學(xué)校或我們購(gòu)買(mǎi)哪份健康保險(xiǎn)上。我認(rèn)為在某種情況下，這些AI系統(tǒng)可能需要人類(lèi)沒(méi)有提供的信息。AI系統(tǒng)可能意識(shí)到，如果它能知道這些額外信息，可以為你的決策提供更好的幫助。

　　最有意思的是，當(dāng)AI系統(tǒng)能夠自己識(shí)別正缺失的信息時(shí)。它們實(shí)際上已經(jīng)意識(shí)到，要想采取具體行動(dòng)，它們還需要更多信息。舉例來(lái)說(shuō)，如果它們能夠預(yù)定無(wú)法網(wǎng)上預(yù)訂的酒店房間，它們就可以在距離你的會(huì)場(chǎng)不遠(yuǎn)的地方預(yù)訂酒店。我真的認(rèn)為這種能力非常重要，因?yàn)榫瓦B我都不知道系統(tǒng)在做出這種決定時(shí)需要了解的哪些信息。

　　現(xiàn)在，我們可以將目的地地址輸入到Uber、谷歌地圖或Waze中，這足以幫助我們規(guī)劃出路線(xiàn)。可是，Waze無(wú)法與你交流，比如詢(xún)問(wèn)你：“你有急事嗎？我需要為你規(guī)劃出最短路徑嗎？還是你只是想要散散心，瀏覽下那里的美景？”如果個(gè)人助理知道我非常喜歡蘭花，或我鐘愛(ài)某種藝術(shù)，結(jié)果會(huì)如何？如果稍微偏離路線(xiàn)，我可能會(huì)順便訪問(wèn)博物館。在規(guī)劃路線(xiàn)時(shí)，如果個(gè)人助理知道這一點(diǎn)，它可能會(huì)為我規(guī)劃通過(guò)博物館的路線(xiàn)。

　　通用AI（General AI）面臨的挑戰(zhàn)是艱巨的。我們現(xiàn)在擁有深度學(xué)習(xí)、深度加強(qiáng)學(xué)習(xí)等技術(shù)，這已經(jīng)可以讓它們產(chǎn)生普通智能的感覺(jué)。我們還在進(jìn)行大量研究，試圖理解遷移學(xué)習(xí)的概念。我們?nèi)绾伍_(kāi)發(fā)出算法？因?yàn)樗鼈兛梢越鉀Q特定問(wèn)題，它們也能學(xué)會(huì)去做其他事情嗎？我們還未完全理解AI，我們不知道有關(guān)它們的許多事情。從算法、技術(shù)、概括方法、提供解釋方法等角度來(lái)說(shuō)，我們依然處于AI的早期階段，我們依然需要繼續(xù)努力。

　　但我相信，通用AI將來(lái)會(huì)集成許多專(zhuān)門(mén)的AI系統(tǒng)，將它們?nèi)诤铣擅魉够∕insky）所描述的“心智社會(huì)”。在AI研究之初，人工智能先驅(qū)艾倫·紐厄爾（Allen Newell）與赫伯·西蒙（Herb Simon）曾預(yù)測(cè)，可能有特殊用途的算法，可以解決非常復(fù)雜的問(wèn)題。

　　為此，即使研究通用AI可能面臨諸多挑戰(zhàn)，但也令人感到激動(dòng)萬(wàn)分，因?yàn)楝F(xiàn)在擁有如此大量的數(shù)據(jù)。還有如此多的人在使用數(shù)字設(shè)備，并不斷生成數(shù)據(jù)。通過(guò)越來(lái)越多地使用電腦、手機(jī)、Alexa以及Uber等，所有這些都有助于我們研究通用AI問(wèn)題。我們依然有許多研究要做，我們依然不知道通用AI到底是什么，但我們正朝著那個(gè)方向邁進(jìn)。

　　問(wèn)：這種不確定性讓你感到擔(dān)憂(yōu)嗎？有些人擔(dān)心AI超越人類(lèi)智能，人類(lèi)將會(huì)被毀滅。

　　維羅索：我是個(gè)樂(lè)天派，我認(rèn)為我們正在進(jìn)行的自動(dòng)化系統(tǒng)研究（包括自動(dòng)汽車(chē)、自動(dòng)機(jī)器人），都需要人類(lèi)來(lái)負(fù)責(zé)。在某種意義上說(shuō)，這與技術(shù)沒(méi)有任何關(guān)系。技術(shù)將不斷取得進(jìn)展，它是人類(lèi)發(fā)明的，而非外星人從天上扔下來(lái)的。這些都是我們自己的發(fā)現(xiàn)，是人類(lèi)大腦設(shè)想出了技術(shù)，同樣取決于人類(lèi)如何利用它。

　　我之所以對(duì)此感到樂(lè)觀，是因?yàn)槿祟?lèi)已經(jīng)意識(shí)到，我們需要謹(jǐn)慎應(yīng)對(duì)這種技術(shù)。但是最好的方式就是投資教育。機(jī)器人可能會(huì)越變?cè)胶茫顿Y于教育，人們就可以互相了解，互相照應(yīng)。關(guān)懷社會(huì)進(jìn)步，關(guān)懷地球和自然，改進(jìn)科學(xué)。解決所有這些問(wèn)題，包括治愈癌癥、消除貧困。利用人類(lèi)開(kāi)發(fā)的這種技術(shù)，我們還可以去做許多事情。

　　在某種意義上說(shuō)，正是AI的這種人性讓我們走到一起，從此難以割舍。為此，我對(duì)未來(lái)充滿(mǎn)樂(lè)觀。