Autopilot并非讓人高枕無憂，人仍然是其有機的組成部分。

　　通常，賓州大學人機工程實驗室的閑聊話題是講座提醒和攀墻機器人的視頻。但在今年春天發生首例特斯拉自動輔助駕駛系統Autopilot致死案后，下面的批判性評論成為主流：

　　助研：設計者的劣根性之一就是在產品完成之前，就已經宣布產品達到要求。

　　博士后研究員：在技術完善之前，這些失敗不可避免。特斯拉汽車這樣的技術先行者總是受到額外的關注。

　　研究生：如果司機能夠專心一點的話，一輛拖車就不會被當作是交通告示牌了。這些討論持續多日，各方的看法似乎都有其可取之處。所以筆者希望藉由這場不幸的事故，了解為何這場最大規模人機互動實驗出現失敗案例的原因。

　　根據事故記錄，這輛由一位俄亥俄男性司機駕駛的Model S在佛羅里達州的27A高速公路上與一輛拖車相撞。當時汽車沒能把高光的天空與白色涂裝的卡車所區分，因此緊急制動系統沒有啟動。這是此次事故技術方面的成因。但是對汽車安全專家和特斯拉公司來說，更重要的原因是司機沒能預判事故并踩下剎車。

　　在自動駕駛汽車已經上路的當下，正好讓我們重新審視一些對智能機械和機器人的錯誤觀念——很多人想象的是如電影《霹靂游俠》中的人工智能汽車伙伴KITT。雖然只是小說，但是人們偏見已成，甚至類似Roomba的自動清潔機器人以及已普遍使用的自動洗碗機也鞏固了這一觀點。

　　而Autopilot并非KITT那樣智能，其操作手冊中明確指出人必須是其組成部分之一（再智能的機器也至少要求我們閱讀操作手冊吧）。特斯拉汽車公開表示Autopilot軟件仍然是尚待完善的beta版本，并警告司機保持警醒，不要將手離開方向盤。

　　但敏感之處是Autopilot的技術研發與市場推廣脫節了。特斯拉汽車在2015年10月宣布軟件系統更新時，其博文的標題是《自動駕駛來了》，讓人感覺機器人司機可以駕車并接送乘客了。在該公司中文推廣文案中，此功能被直接翻譯為“無人駕駛”。因此，一位司機宣稱其被誤導而導致了一場擦掛事故。

　　早期Autopilot的使用者助長了對這項技術的誤用。在YouTube中，時常可見人們雙手離盤駕車的視頻，甚至有人在行駛時玩跳棋和抽積木。在一個數十萬人觀看過的專業評測視頻中，制作者也只是加上了一條簡單的提醒——“免責申明：……本視頻中的操作是特意而為的。安全是首要考量。看路駕駛，不要做蠢事”——也就是說，“不要做我們剛才所做的事”。

　　人們缺失的概念是，共享控制權是自動駕駛的基礎。在戰斗機飛行員培訓中，這種共生關系很常見。從卡特總統時期以來，專業人員們就用一個籠統的術語——電傳操作系統（fly-by-wire），來描述任何計算機輔助的飛行控制。正如Autopilot，電傳操作系統只是一種輔助技術來加強，而非代替飛行員對飛機的控制。飛行員在掌控駕駛艙之前，通過多年的訓練，清楚的了解計算機是怎么收集和處理信息的。他們也學到了即使在有輔助駕駛功能時，也需保持警惕性，隨時準備接管飛行控制，而不是任由計算機掌控一切。

　　因為普通司機不可能像飛行員那樣接受深度訓練，所以車廠必須找到有效的解決方案。例如，在安裝輔助駕駛軟件時，初次使用者需要的不只是介紹軟件如何使用的說明文檔，而應該是短期培訓課程來幫助司機了解自動駕駛是如何工作的，它被設計成可以處理和不能處理何種應用情況，以及為什么司機需要隨時準備介入。

　　電傳操作系統和人際交互專家，前任美國空軍首席科學家Mica Endsley表示，Autopilot這類自動化技術遇見的問題是，當錯誤產生時，操作者一般在控制環路之外，延緩了問題的檢測和修正。

　　除了司機的培訓，自動駕駛軟件也應該被設計成可以鞏固培訓成果。軟件工程師和汽車工程師需要通過對人的行為和認知模式的了解，考慮其設計如何與使用者更好地溝通。目前學術界和汽車制造商也注意到這一新領域，已經在人際交互方面開始了越來越多的研究。例如，斯坦福大學的交互設計專家正在研究如何使自動駕駛汽車的攝像頭、雷達和傳感器所生成的評估與預判對使用者更透明。這些專家們表示，車廠應該采取語音提示 （“前方有障礙，正在剎車”）和物理提示（比如需要司機接管控制時，改變方向盤的傾角）等措施，讓司機得知路況的變化（例如有卡車堵塞道路）或者避免司機因發呆而引發的事故。

　　在目前的產品設計中信號提示還尚待加強，比如Model S僅用音調變化和Autopilot控制面板色彩的改變來提醒司機需要接管控制了。凱迪拉克的SuperCruise系統和沃爾沃的Pilot Assist系統則通過座椅或方向盤輕柔地震動來提醒。車廠需要采用更進取的方式來協助司機，比如斯坦福大學所建議的多重感官方式，既用方向盤震動，又用語音和閃燈提示。

　　在這個即時通信軟件、聯網地圖和手機交易大行于世的時代，沒人想在新技術的應用方面落后于人。但是在使用自動駕駛汽車時，司機仍需要警醒和專注。這個新技術既需要培訓人類，也需要訓練智能警報系統。

　　今年5月的Autopilot致命事故也許只是一個最惡劣的情況，但是它卻強調了人與機器如何共享汽車控制的重要性。