到2020年，預計將有多達1000萬輛自動駕駛汽車上路，屆時，它們將面臨艱難的抉擇。可以理解的是，建立一個能夠解決經典“電車問題”的決策系統相對緊迫。在這個問題中，一個人（或電腦，視情況而定）被迫決定是否要犧牲幾個人的生命來換取一個人的生命。

　　令人鼓舞的是，科學家們已經開始為此奠定基礎。

　　麻省理工學院近日發表的一篇新論文，分析了“道德機器”的在線測試的結果，任務要求受訪者在虛構的駕駛場景做出道德選擇。來自兩百多個國家和地區的200多萬受訪者最終解決了9個可怕的難題，其中包括殺害行人或橫穿馬路者、年輕人或老年人以及女性或男性。

　　一些調查結果并不令人驚訝。總的來說，參與調查的人表示，他們希望挽救更多的生命，人類優于動物，兒童優于成年人。

　　一些汽車制造商和政府機構一直提倡自動駕駛汽車將比人工駕駛更加安全，然而實驗中“民意的表現”卻與這個安全承諾正好相悖：人們選擇讓自動駕駛汽車撞向路障，犧牲乘客而拯救路人。

　　但并非所有趨勢都跨越了地理、種族和社會經濟的界限。

　　來自欠發達國家的人，特別是那些人均GDP較低的國家的人，不太可能像那些擁有強大的公民機構的工業化國家的人那樣撞上橫穿馬路者。

　　與此同時，亞洲和中東地區的居民，比如中國、日本和沙特阿拉伯等國家，比較傾向于拯救年長的行人，而北美和歐洲的調查對象更傾向于拯救富人。研究人員將其歸因于集體主義心態。

　　當然，這項研究并不是福音真理。因為道德機器測驗是自我選擇的，其問題是以二元的、人為的方式提出的，每個結果都會導致人或動物的死亡。其意義旨在促進討論。

　　研究人員之一的Lin表示：“這些測試去掉了混亂的變量，集中在我們感興趣的特定變量上。這從根本上說是一個道德問題。”

　　麻省理工學院媒體實驗室副教授Iyad Rahwan對此表示：“如果我們不能理解這些心理障礙并通過法規和公共宣傳來將之解決，我們就有可能葬送整個行業。”

　　即使是最復雜的人工智能系統也遠不能像人類那樣進行推理，但有些人正為此不斷努力。

　　去年4月，英特爾以153億美元的價格收購了以色列特拉維夫的Mobileye。該公司去年10月在韓國首爾舉行的世界知識論壇（World Knowledge Forum）上，就該問題提出了一個解決方案——責任敏感安全（RSS）。在隨附的白皮書中，英特爾將其描述為一種“常識”的道路決策方法，用于在路上進行決策，編寫良好的習慣，例如保持安全的跟車距離并為其他車輛提供優先通行權。

　　“分配故障的能力是關鍵。就像世界上最好的人類駕駛員一樣，自動駕駛汽車也無法避免因無法控制的行為而導致的事故，”Mobileye首席執行官兼英特爾高級副總裁Amnon Shashua去年在一份聲明中表示。“但最負責任、最警覺、最謹慎的駕駛員不太可能發生事故，尤其是在他們擁有360度視野和快遞反應時間的情況下。你可以將其看作是自動駕駛車輛。”

　　谷歌也進行了相關實驗。2014年，谷歌無人車之父Sebastian Thrun表示，在發生車禍時，自動駕駛汽車將選擇與兩個較小的物體碰撞。兩年后，前谷歌無人車負責人、Aurora Innovation聯合創始人兼CEO Chris Urmson表示，他們將“盡最大努力避免撞到無保護的道路使用者：騎自行車的人和行人。”

　　美國國防高級研究計劃局（DARPA）正在研究模擬認知核心領域的計算模型：物體（直覺物理學）、地點（空間導航）和代理（演員），作為其機器常識項目的一部分。

　　立法可能會迫使這些系統快速發展。德國在去年成為第一個為自動駕駛汽車的決策提出指導方針的國家，建議對所有人類生命一視同仁。歐洲正在制定自己的政策，它可能會通過認證計劃或立法來執行。在美國，國會已經為潛在監管制定了公共原則。

　　無論如何，汽車制造商都有自己的工作要做。涉及自動駕駛汽車的相關事故降低了公眾對該技術的信心；今年夏天，布魯金斯學會（Brookings Institution）、智庫HNTB和公路和汽車安全倡議組織（AHAS）進行的三項獨立研究發現，大多數人不相信自動駕駛汽車的安全性。超過60%的人表示，他們“不傾向”乘坐自動駕駛汽車，近70%的人表示“擔心”與他們分享道路。