近日,二十多家機構聯名向亞馬遜 CEO 貝索斯上書,抗議該公司將人臉識別技術出售給警方。人們之所以如此憤怒的原因在于,人臉識別技術在執法部門的使用權限和用途并沒有明確的法律規定,毫不諷刺地說,執法的警察本身就是在做一件無法可依的事。大數據時代,當隱私保護成為一個比解開畢達哥拉斯定理更困難的事時,我們除了無奈郁悶罵幾聲之外,還能怎么做?
為人們所熟知的亞馬遜是那個自稱可以在這里“買到一切”的網上商城,但最近,人們了解到這家公司還有另外一些很少有人知道的商品——警方花錢從亞馬遜買進人臉識別技術Rekognition,可以實時從數百萬張人臉中識別出警方在尋找的人。
早在 2012 年,Rekognition 就由中國留學生王盟和劉天強創立的 Orbeus 公司開發推出,后來被亞馬遜收購,成立了日后的 Amazon Rekognition team。可能是因為美國的隱私政策限制,這項技術并沒有被美國警察部門大規模使用。
事實上,亞馬遜并不是唯一一家提供類似“公共場所服務”的公司,位于馬薩諸塞州的MorphoTrust就被曝光向 FBI 和其他執法部門提供人臉識別技術。底特律也向Data Works Plus購買類似的技術,以在加油站錄像中識別暴力犯罪人員。但為什么亞馬遜會成為聲討的對象呢?因為亞馬遜是第一家向執法部門提供人臉識別技術的大公司。
在 ACLU(美國公民自由協會,American Civil Liberties Union,現有會員超過50萬)曝光了這樁買賣之后,包括 ACLU 在內的二十多家非盈利性組織即向亞馬遜 CEO 杰夫·貝索斯上書,要求他停止向警察銷售此系統。
這封信中說,該技術將不可避免被當局濫用,并指控亞馬遜提供“強大的監控系統會違反人權,對社區形成巨大威脅,包括有色人種和移民。警方可能會利用其追蹤抗議者或其他被警方列為嫌疑人的目標,而不僅僅是罪犯”。
聯名信原文鏈接:
https://www.aclunc.org/docs/20180522_AR_Coalition_Letter.pdf
亞馬遜回應:并未向警方提供特殊服務
據《紐約時報》報道,這項技術上線一周后即顯神效,抓到了一個從商店偷盜 5000 美元的小偷,而且這個系統成本很低,花費400 美元搭建之后每月只用花幾美元進行維護。
對于來勢洶洶的聲討,亞馬遜作出了略顯雞肋的回應:
亞馬遜所有的顧客都需要遵守法律規定并負責任。亞馬遜并沒有向執法部門提供任何有區別于其他客戶的服務。
在一份聲明中,亞馬遜一位發言人強調該公司向大眾提供的這種“通用”的圖像識別技術可以自動識別人、物體和活動,機構采用該技術尋找丟失兒童、識別婚宴來賓等。
亞馬遜官方還在此前上傳至 YouTube 的一則亞馬遜 Rekognition 總經理講解這一服務的視頻評論區發出聲明,稱該 GM 的講解有誤,奧蘭多警方只是在進行該服務的內部測試,并沒有在全城安裝攝像頭或使用該產品,并為此造成的誤解向公眾道歉。
沒有監管的法外之地
執法機關與人臉識別的“媾合”:你能想象執法機關把你當成潛在罪犯,每天早上出門上班開始你的臉就被瞄準框鎖定,監視你的一舉一動嗎?
這次的爭議引發了一個質疑:警方使用人臉識別技術有什么法律規定進行監管和約束嗎?我們得到的答案是:幾乎沒有。
在美國,聯邦和州政府通常被授予行使從公共攝像頭手機的人臉信息中搜索視頻和圖像的權利。城市和當地部門可以制定本地政策和指導方針,但是早期的人臉識別技術采用部門并沒有系統制定的規則。
ACLU 公布的文件顯示,亞馬遜和奧蘭多和佛羅里達合作,構建了一個用八臺公共攝像頭捕捉警方“感興趣目標”的系統。當被問到該系統運行是否遵有法可依時,一位發言人稱,“由于這是個試點項目,目前還未制定相關政策”。
據公開的文件顯示,奧蘭多警察局長稱該系統使用之前曾經過測試,證明該系統可以提高公眾安全,并提高執法效率。但奧蘭多一位發言人稱,這只是早期的測試,他們并沒有數據證明該系統確實有效,并稱還未用于調查和從公共場合取像。
文件還顯示,警局工作人員中其實有人對將市民人臉圖像存放在亞馬遜云中的做法存疑,這一行為被視為“政府與大數據的媾合”。
“在美國的憲法中沒有提及大數據,但也沒有對人臉識別提供庇護,”亞利桑那大學的法學教授 Jane Bambauer 說道。“州法律同樣也沒有關于警方使用人臉識別的規定。”
對此,ACLU 科技與公民自由主任 Nicole Ozer 稱,目前只能寄希望于向亞馬遜、執法部門和當地社區施壓,制定自己的規則。“出臺法律的速度太慢了,趕不上形勢的需求。”
電子前線基金會的高級律師 Jennifer Lynch 稱,“這是一個科技走在法律之外的典型例子,根本沒有監管存在。”
識別準確率不夠,有色人種識別更差
也許有一天一位黑人朋友在大街上悠閑地嗦著冰淇淋,就被一群警察帶走了,然后他們發現,搞錯了...
警方使用人臉識別技術另一個讓人擔憂的原因是,識別準確率并沒有想象中高,并不是在所有執法情境中都好用。據 FBI 2017 年公布的資料顯示,該機構使用算法從大數據中挑選的 50 多個最接近“嫌疑目標”的識別率為 85%,去年英國南威爾士警方在一次足球比賽中的識別準確率更慘,只有 8%。
在性別和種族識別上,這項技術也并不完美。麻省理工學院的一份調查顯示,黑皮膚的女性被人臉識別軟件錯誤識別的幾率高達 35%。
有人認為,警方應該公布人臉識別系統的具體數據,包括在不同種族人身上識別的表現,并認為警方現在對人臉識別的無依據使用不會持續太久。
無處不在的監控,真實的《楚門的世界》
想想著名的“魔鬼魚”事件吧。在美國,聯邦和州的執法機構使用一種俗稱為“魔鬼魚”的設備大量獲取用戶信息。這種強大的監控工具通過模擬手機訊號侵入不知情的公民的手機,借此追蹤這些手機的地理位置,甚至截取手機用戶的通信內容。
如此堂而皇之地竊取用戶信息,這個前車之鑒讓人不免擔心人臉識別技術避免不了被濫用的命運,在這種技術以合法的面目公然出現在大街小巷時,所有的人都將活在警察局的監視器中,無處躲藏,儼然將上演真實版的《楚門的世界》。
人臉識別技術的忠實粉絲將之視為抓捕罪犯的強有力武器,但是不看好它的人卻嗅到了大規模監控帶來的隱憂。據喬治敦大學法學院隱私和技術中心數據顯示,在美國,面部識別技術不僅將罪犯列為識別對象,超過1.3億美國成年人都在犯罪搜索數據庫中。
當人臉識別與政府“媾合”時,無人可逃。
在美國,競賽場上會用人臉識別揪出賽事中鬧事的人,國安局用它來識別在機場逗留過久的外國游客。
商店里裝有識別顧客的智能攝像頭。
美國可能離國人有點遠,那近一點看看國內,其實人臉識別的普遍程度遠超我們的想象。
人臉識別中國式過馬路,可謂是聲名遠播四海。
靈隱寺、天壇試點刷臉取廁紙。
政府機構在街道、地鐵站、機場、海關安裝智能人臉識別攝像頭。
不知道上面那位對著機器刷臉取廁紙的妹子當時是什么心情,看起來好像對這個東西挺新奇的,也許是如廁事大,她并沒有選擇……
但新奇感過后,這件事卻讓人驚出一層冷汗:當我們做其他的事情也被迫要交出自己的個人信息時,比如抬頭可見的監控天網呢,你會選擇沉默嗎?還是會嘗試爭取一下自己的利益(雖然很難)?這并不是空穴來風的焦慮,而是大數據時代日益嚴峻的隱私保護問題。
以上驚悚的事情不只發生在《楚門的世界》,現實生活中已經在不斷上演,也許不久的將來,也許現在,你就正在被政府的無數雙“眼睛”盯著。是不是聽起來毛骨悚然?但這并不夸張。
國人的隱私觀和現狀
這還不是最讓人窒息的,因為作為國情特殊的大國,我國人民向來享受著來自政府部門的“特別關愛”,在隱私這一問題上也不例外,還曾無奈地“被認為不重要”。
比如亞馬遜這次和執法部門的合作有人覺得不合理就去抗議,雖然還不知道亞馬遜會采取什么具體應對措施,會不會迫于壓力終止這次合作,但起碼這家巨頭迅速做出了回應,并向公眾道歉。換成在國內,或許連一點浪花都掀不動。
關于中國人對于隱私的看法,相信大多數人的觀點都是一樣的:隱私被侵犯了,生氣,但是除了生氣還能怎么辦?
以上是網友關于亞馬遜與警方合作的觀點,歸結下來大概分為兩大類:
感嘆國內與國外隱私保護差距的
大數據時代沒有隱私可言,自由與安全不可兼得
這些評論雖然并不能概括出國人對于隱私的重視程度幾何,但多少能反映出人們普遍存在的心理。
總而言之,中國是目前人臉識別技術政府部門采用最廣泛的國家之一,將來會迎來更多關于隱私的問題和討論,憤怒沒有用,我們應該做的,是如何在這種已然形成的大環境下盡量地保留最后的尊嚴。
-
人臉識別
+關注
關注
76文章
4011瀏覽量
81860 -
亞馬遜
+關注
關注
8文章
2650瀏覽量
83321
原文標題:萬人上書貝索斯,抗議亞馬遜向警方出售人臉識別技術
文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論