如何阻止機器人傷害人？現在的許多機器人，比如在工廠里組裝汽車的機械臂，當人類靠近時，它們會馬上停機。但這種機制在某些地方并不適用，比如需要快速移動來避免碰撞的無人駕駛汽車，或者需要扶起摔倒老人的護理機器人。隨著機器人技術的快速發展，它們將成為我們的仆人、伴侶還有同事，我們需要應對日益復雜的形勢，將會面臨更多的道德和安全問題。

　　科幻已經設想了這個問題，并提出了各種潛在的解決方案，其中最著名的是Isaac Asimov的機器人三定律，旨在防止機器人傷害人類。但現實表明，機器人三定律在很多時候并不管用，從2005年開始，我和赫特福德大學的同時一直在研究一個可替代的解決方案。

　　我們認為，規則不應該限制機器人的行為，而應該賦予機器人更大的自主性，讓他們在任何場合都能合理選擇最佳解決方案。正如我們在Frontiers上發表的一篇新論文描述的那樣，這一原則可以構成一套新的機器人普遍指導原則，以盡可能地保護人類的安全。

　　機器人三定律

　　阿西莫夫的機器人三定律是這樣描述的：

　　? 機器人不能傷害人類，也不能明知人類受傷害而袖手旁觀；

　　? 機器人必須服務人類的命令，除非這些命令與第一定律相沖突；

　　? 在不違反第一、第二定律的前提下，機器人應保證自身安全。

　　這些規則聽起來似乎很合理，但無數的事實證明他們仍存在很多不足。阿西莫夫的小說可以說是最好的反證，它們證明在很多情況下機器人三定律都是不起作用的。大多數新起草的規則都遵循類似的原則以構建更安全、合規而穩定的機器人。

　　所有制定出來的機器人指南都存在一個問題，那就是如何轉化為機器人可以執行的格式。理解人類的所有語言以及它所代表的經驗，對機器人來說是非常困難的事情。廣義的行為目標，比如不得傷害人類，或保護機器人的安全，在不同的情況下可能意味著不同的內容。遵守這些規則，最終可能讓機器人束手無策，并不能達成創造者的目的。

　　我們的另一個概念，授權代表的是無助的反面。被授權意味著有能力該表狀況，并意識到你可以。我們一直在研究如何將這種社會概念轉化為可量化和可操作的技術語言。這將給機器人帶來啟發，以保持他們的選擇開放，并采取行動，增強他們對世界的影響力。

　　當我們嘗試在各種場景中模擬機器人如何使用授權原則時，我們發現他們通常會以驚人的“自然”方式行事。通常只需要他們來模擬現實世界的工作原理，但不需要專門的人工智能編程來處理特定的場景。

　　但是為了保護人們的安全，機器人需要努力維護或改善人類授權以及自己的能力。這基本上意味著保護和支持。為某人打開一扇鎖好的門將增加他們的授權。限制他們將導致授權短期喪失。嚴重傷害可以徹底取消他們的授權。同時，機器人必須努力保持自己的授權，例如確保它具有足夠的操作能力，并且不會卡住或損壞。