誰在害怕人工智能：AI帶給人類的三大挑戰

“當我看到柯潔在圍棋比賽中負于機器時痛哭的畫面，感到些許悲哀。作為世界頂級的圍棋選手，他卻被機器人擊敗了，并且在賽后說‘我回去讓機器復盤檢查錯在哪里’。過去他只需自己復盤，而現在，機器會立即指出他的錯誤。這說明，機器與人力已不處于同一段位了，在機器面前，人類如同孩童一般。機器教給人類最初級的下法，而其本身的下法人類已不可理解。”

“其他行業也面臨同樣的問題。如果機器學會作詩作曲，做出我們普遍喜歡的產品，那人類的生活就將完全改變。可以想象那個時代，杜甫將是極少數學院派研究的對象，因為機器已經影響了我們對音樂、美術、戲劇表演的喜好，我們會喜歡機器讓我們喜歡的產品。”馮象對人工智能深刻改變人類生活的分析引發了現場觀眾的深思。

世界排名第一的圍棋棋手柯潔對戰“阿爾法狗”

“我是阿爾法，機器人說，我是人工智能（AI）。人哪，你們準備好沒有？”馮象在2018年出版的《我是阿爾法論法和人工智能》中寫道。曾經看上去屬于未來、屬于科幻的人工智能已經深度地介入到我們的生活，帶來了嚴峻且不可避免的挑戰，未來已經來到，一切皆有可能。

4月20日，在文匯講堂暨華東師大第五屆思勉人文思想節期間，主辦方邀請清華大學梅汝法學講席教授、哈佛文學博士、耶魯法學博士馮象舉辦了一場“誰害怕人工智能”的講座，馮象從法律的角度切入，分析了人工智能的現在與未來。

清華大學梅汝法學講席教授、哈佛文學博士、耶魯法學博士馮象

“我”的隱私將變成“他們”的財產

傳感器、刷臉支付、大數據......隨著人工智能的發展，人們的個人隱私變得無處可隱、無法可隱，這也成為人工智能帶來的首要挑戰。機器智能如此普遍，以至于每個人的行為、習慣、喜好和信用表現等被忠實地記錄著，在這背后涉及的法律問題就是個人的隱私權。

隱私權是一項非常重要的法律權利，在美國，隱私權被確立為***上的基本權利，而中國正在編纂的統一《民法典》也將隱私權視為一項重要的民事權利。在如今的現實中，個人隱私權卻正在消失，而且由于機器智能的便利性，使得對其的維護也相當困難。“我們為什么需要隱私？我的客戶很樂意把隱私交給我們，因為我們的服務能給他們帶來不可抗拒的便利。”馮象引用了臉書（Facebook）創始人馬克扎克伯格（Mark Zuckerberg）的言論來說明這種困難性。

與知識產權禁止他人隨意復制或使用相反，人工智能的商業模式是用便利的產品和服務，去換取開放的、免費的個人信息。商業模式的本質基礎是對價交易，而我們與各種app簽訂的協議使得我們付出的對價就是個人信息。個人數據被企業獲取，用于建立數據庫，再轉賣給第三方或者用于其他用途，例如開發新產品等等，被稱為“數字利維坦”（意指其利用數據進行獨裁統治）的臉書層出不窮的數據丑聞就是一個明顯的例證。

扎克伯格出席臉書數據泄露事件聽證會

在信息時代，數據成為一種重要資源，其所蘊含的巨大價值令業界希望將其財產化，數據的財產化將使得少數企業獲得難以估量的財富。雖然現在還沒有對數據財產化進行***，但它在事實上已經是財產了，因為它是個人與網絡平臺交易的標的物。但馮象對此提出了一系列的質問：“試想，若將數據財產化，那數據的原始主人是誰？難道不是我們每一個人嗎？難道數據不是我們的財產嗎？若是這樣思考，臉書就無法運營了，因為它需要與幾億人簽訂合同。”

不得不接受的“硬規則”

人工智能帶來的第二大挑戰，是將我們原有的社會規則體系轉變成“硬規則”體系。“中國的馬路中間通常都設有一排鐵柵欄，用于分隔兩個車道，它強迫車輛必須在它自己的那條車道里行駛，不得越界。”馮象用一個生活中的現象來解釋什么是硬規則。

手機硬規則通過用戶點擊“同意”進入系統，之后會顯示一份字體較孝內容復雜的授權合同，幾乎一面倒地將權利給予了運營商。馮象將這份授權合同稱為“誰都看不懂的”合同，引發了觀眾有些無奈的笑聲。這種單方面為用戶制定的規則，它的邏輯非常簡單要么同意，要么不用，用戶為了能夠使用并得到便利，一般都會同意。

某APP隱私政策

整個法律制度實際上被人工智能引領著走向了硬規則體系的方向，比如阿里巴巴這樣的企業，現在已擁有非常成熟的糾紛解決機制，政府也與之合作建立了互聯網法律。這令人感到無比害怕和憂慮，因為這將導致資本力量過于強大。從中國的國情與黨和政府的立場來看，***必須回應民眾的要求、呼聲與利益訴求，這也呼應了中國***黨為人民服務的宗旨。但是，如果規則的制定權大量落入企業手中，其結果就大為不同了。

硬規則的制定權越來越多地歸于商家，將使***迅速擴大。馮象將舊富豪洛克菲勒家族與新貴扎克伯格進行比較，扎克伯格在短短的幾年中就可以積累起前者幾代人才可以積累的財富。

網絡技術、網絡產業極大地推動了社會的階級分化，這是全世界都有的一個大問題，去年的“***”事件就引發了社會對于這一問題的擔憂。在利益的驅使下，占有技術優勢的相關企業勢必不遺余力地攫取財富和權力，而資本在市場博弈中具有相當的盲目性，正如馬克思所說：“為了100％的利潤，資本就敢踐踏一切人間法律；有300％以上的利潤，資本就敢犯任何罪行，甚至去冒絞首的危險。”

微軟小冰：要是能重來，我也不做李白

2017年，微軟（Microsoft）開發的人工智能少女小冰創作的詩集《陽光失了玻璃窗》出版，吸引了許多人的關注，她還曾多次匿名給雜志報紙投稿，被《長江詩刊》《北京晨報》《信報》等刊載。然而，仍有許多人不看好小冰創作的詩歌，認為她不過是學習了五四以來的新文學，排列組合生產出幾句“詩”而已，與李白、杜甫相比則是天差地別。

《陽光失了玻璃窗》，作者：小冰，出版社：北京聯合出版公司，2017年5月。

但馮象指出，微軟研發小冰的意圖并非是讓她成為李白、杜甫，正如AlphaGo團隊研究圍棋并非是出于對圍棋的熱愛，華為研發5G產品也不是想成為愛因斯坦或牛頓，他們的根本目的只有一個占有市常

因此，小冰下一步如何進行商業化發展，商業化之后如何改變我們與下一代對詩歌、文學以及藝術的感受，才是需要關注的大問題。微軟小冰團隊以及競爭者們或許已經在基因層面探索人類對文學和音樂的感受，以研發出能改變人類認知和喜好的產品，改變人機關系。“我將其稱作較為終極的挑戰，因為它改變了生命的意義。”馮象對最后一大挑戰的總結振聾發聵。

一直以來，無論科學技術如何發展，政治朝代如何更迭，自遠古留傳下來的宗教、倫理、法律、商業等方面的人類生活基本都存在共識。現在，今后的發展卻可能無法預測，因為人類內心最深處的一些愛好和習慣，以及智力所能投放的領域將被取代。

但馮象在回答觀眾提問時同樣指出，人類最傳統的領域，比如宗教，可能是人工智能無法涉足的，因為機器不需要宗教。再如人本身對人的依賴和伴侶的需求，正如馬克思所說：“人是社會關系的總和”，人在這方面的需求可能是人工智能無法替代的。

資本主義因AI而滅***主義的未來

人工智能提供的便利和規則正在溫水煮青蛙式地將人類逼至無法反抗的境地，在《我是阿爾法》一書中，馮象提出了兩種可能的最終解決方案：一是徹底知識產權化的***，二是數據國有化。“人類如果因AI而亡，一定是拜資本主義所賜；資本主義如果因AI而滅，則機器人必已認識了真理。”

《我是阿爾法論法和人工智能》，作者：馮象，出版社：中國政法大學出版社，2018年10月

財富的高度集中必定會誘使更多***和硬規則的普遍約束，就像***專政一般。相反地，隨著政府部門越來越深地介入商業活動，最終每次商業交易都必須由第三方政府參加，市場經濟就會逐漸轉變為計劃經濟。而且隨著機器的大規模出現，分工不再重要，可能會實現***主義。

列寧曾說，人類將按照科學的進步程度來接受***主義，***主義在科學技術不發達的情況下是無法實現的。1960年代，一位蘇聯數學家提出綜合數學模型，解說計劃經濟成功與失敗的可能性，并獲得了諾貝爾經濟學獎。馮象受此啟發，認為計劃經濟并非過去式，只不過不適合科技欠發達的時代。但當人工智能大量投入使用時，它將解放人們勞動的雙手，計劃經濟的計劃將非常完善，人類從此進入***發展的必然王國。

但在進入公有制社會之前，我們還需對人機關系、人機倫理等進行研究和規范。當機器智能高度發展時，它將遠遠超過人類的知識、判斷力甚至道德選擇，那么讓機器獲得正確的智能而不是對人類有害的智能就尤為重要了。社會應該讓科研受到強有力的倫理和法律的約束，減少錯誤，以降低人類的安全風險。

機器必須理解人類美好生活的含義，才能幫助我們實現***主義。那么，誰來教育人工智能，怎么教育人工智能？馮象認為中國革命給了我們答案。***撰寫的《紀念白求恩》一文寫道：“白求恩是毫無自私自利之心的人，是純粹高尚的人”。白求恩的理想人格可以給人機關系做出榜樣，讓人工智能更好地為人類服務。