來自加拿大和澳大利亞的機器人和人工智能領域的專家們呼吁政府對殺手機器人下達禁令,專家們反對自動化武器的使用,并且認為它們的研發和使用越過了道德底線。
在新南威爾士大學Toby Walsh的組織下,澳大利亞人工智能研究界給澳大利亞政府寫了一封信,呼吁禁止開發致命的自動化武器。澳大利亞機器人和人工智能(AI)研究機構的122位領先研究者發出了一封公開信,呼吁澳大利亞***Malcolm Turnbull采取反對將人工智能用于武器的立場。
澳大利亞的多位人工智能和機器人專家簽署了這封信,要求Turnbull和他的政府成為禁止致命性自動化武器的第二十個國家,呼吁在即將召開的聯合國(聯合國)“特定常規公約”會議上禁止致命的自動化武器(CCW)。
這封同步公開信獲得了加拿大數百名AI專家的簽名,其中包括Deep Learning公司的兩名創始人、AI先驅Geoffrey Hinton和Yoshua Bengio,以及加拿大渥太華大學倫理、法律和技術研究所的主任Ian Kerr教授。加拿大的公開信敦促加拿大***Justin Trudeau支持這一禁令。這兩封信都是伴隨著八月份打給聯合國的一個電話而發出的。這個電話是由機器人和人工智能企業的137名創始人聯合打出的,旨在反對打開致命自動化武器的潘多拉盒子。此次電話會議的簽署方包括英國的AI研究員兼谷歌DeepMind Demis Hassabis公司的首席執行官和一些著名的技術專家,如OpenAI的創始人Elon Musk和Geometric Intelligence的創始人Gary Marcus。
澳大利亞人工智能專家在寫給Turnbull的信中說,缺乏切實的人類控制的致命自動化武器很明顯是錯誤的。信中說:“為此,我們要求澳大利亞在即將召開的聯合國常規武器公約會議上宣布支持禁止致命的自動化武器系統。澳大利亞還應該承諾與其他國家合作達成一個新的國際協議,以達成這個目標。”信中說:這樣,我們的政府就可以在世界舞臺上恢復其道德領導地位,正如以前在其他領域,如不擴散核武器的情況一樣。“隨著澳大利亞最近參加聯合國人權理事會的選舉,處理致命的自動化武器問題對澳大利亞更為迫切。”
公開信的組織者、澳大利亞新南威爾士大學悉尼分校的AI教授Scientia表示,AI和機器人界近年來已經就這個問題發出了一個清晰而一致的信息。Walsh說:“我們現在需要采取行動來禁止致命的自動化武器。人工智能可以極大地提高生產力,應對氣候變化,改善醫療保健?!薄暗瑫r,人工智能也可以使我們的生活變得更糟糕,特別是在我們允許機器來決定人的生死的情況下。我們應該選擇如何使用各種技術。我非常希望我們在這里做出正確的選擇。在這些技術被普及之前,留給我們的時間已經不多了?!盬alsh教授說,如果沒有禁令,將會產生軍備競賽,以發展日益強大的自動化武器。
在2015年布宜諾斯艾利斯舉行的主要人工智能大會上,Walsh還協助組織公布了一封公開信,以警告自動化武器的危險,并再次提出了對其實施禁止的要求。這封信是由來自全球的數以千計的人工智能和機器人研究者們簽署的,并得到了英國物理學家霍金(Stephen Hawking)、蘋果聯合創始人Steve Wozniack和認知科學家Noam Chomsky等的支持。人權委員會特別報告員Christof Heyns教授是第一個呼吁聯合國解決自動化武器問題的人。他在2013年認為,機器不應該獲得決定人類生死的權力。
澳大利亞的這封信也是在11月10日教科文組織的“和平與發展世界科學日”之前發出的。此外,Walsh將到聯合國對致命自動化武器的危險提出警告:“像我這樣的人工智能和機器人專家所擔心的不是終結者,而是目前正在開發的更簡單的技術。它們距離部署只有幾年的時間。如果沒有禁令,將會發生軍備競賽,以開發越來越強大的自動化武器。利用將會出現大規模的殺傷性武器,一個程序員將能夠控制整個軍隊。其他任何大規模殺傷性武器都被禁止:化學武器、生物武器、甚至核武器。我們必須把自動化武器添加到道德上不可接受的武器清單上。”
Walsh的新書《它是鮮活的!:從邏輯鋼琴到殺手機器人的人工智能》詳細論述了對致命自動化武器的爭論。
-
機器人
+關注
關注
211文章
28380瀏覽量
206918 -
人工智能
+關注
關注
1791文章
47183瀏覽量
238258
原文標題:專家呼吁禁止殺手機器人
文章出處:【微信號:AI_News,微信公眾號:人工智能快報】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論