色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

AI式“種族歧視”,黑人的錯誤識別率比白人高5至10倍!

DPVg_AI_era ? 來源:YXQ ? 2019-07-30 17:36 ? 次閱讀

根據美國政府測試發現的結果,即使是表現最佳的人臉識別系統,黑人的錯誤識別率比白人高5至10倍。那么到底是什么原因導致不同人種之間人臉識別效果差距如此之大呢?又該如何應對呢?

法國有一家名叫Idemia的公司,它的人臉識別軟件已經在為美國、澳大利亞和法國的警方提供服務。

例如,這個軟件會根據海關或者邊境保護局的記錄,檢查一些在美國著陸乘客的面部特征。

2017年,FBI一名高級官員向國會報告稱:“面部識別系統使用Idemia技術掃描3000萬張照片,有助于‘保護美國公民’?!?/p>

但即便如此,Idemia的算法并不能對所有面孔都做到精準識別。

美國國家標準與技術研究所(National Institute of Standards and Technology,NIST) 7月份的測試結果顯示,比起白人和黑人男性,系統更容易混淆黑人女性

NIST用兩張相同的面部照片去測試算法,結果表明,Idemia的算法錯誤匹配白人女性面孔的概率約為萬分之一,而錯誤匹配黑人女性面孔的概率卻為千分之一,概率增長了10倍之多。

而在人臉識別系統中,錯誤識別概率超過萬分之一是一個評判標準。

Idemia美國公共安全部門主管Donnie Scott表示:

“NIST測試的算法尚未在商業上發布,該公司在產品開發過程中會檢查人口統計學差異。人與人之間存在身體差異,算法將以不同的速度對不同的人進行改進。”

最先進的人臉識別算法依舊無法應對深色皮膚面孔

目前,計算機視覺算法在人臉識別任務中可以說是達到了巔峰。

NIST去年表示,在2010年到2018年期間,算法在大型數據庫精準識別人臉的能力提升了25倍,只有0.2%的概率會出現無法匹配人臉的情況。這將有助于推動在政府、商業或者手機電子產品中的廣泛使用。

但NIST的測試以及其它研究反復發現,算法在識別深色皮膚人臉方面的能力是較差的。該機構7月份的報告涵蓋了50多家公司的代碼測試。

自2017年初以來,NIST已經公布了人臉識別算法的人口統計學測試結果。研究還一致發現,識別女性的結果比識別男性的結果差一些,造成這種差距的一部分原因是由化妝造成的

報告指出,白人男性的錯誤匹配率通常比較低,而黑人女性的錯誤匹配率通常會比較高。NIST計劃在今年秋季詳細報告該技術如何在不同的人口群體中發揮作用。

NIST的研究被認為是評估人臉識別算法的黃金標準。那些在人臉識別做的較好的公司將其成果在市場上進行營銷。

許多人臉識別算法更容易混淆黑人面孔。每個圖表都代表了NIST測試的不同算法。

國土安全部還發現,深色皮膚對商業化的人臉識別任務也具有挑戰。今年2月,國土安全部的工作人員公布了11個商用系統的測試結果。結果表明,接受測試的系統需要更長的時間來處理膚色較深的人,而且準確率也相應較低。

政府報告也稱:亞馬遜、微軟和IBM的算法在深色皮膚上的識別并不太準確。

人臉識別技術引發隱私、種族歧視等輿論

這些發現引發了一場關于正確和不正確使用面部識別的全國性辯論。

一些公民自由倡導者、立法者和政策專家希望政府限制或禁止使用該技術,就像最近在舊金山和其他兩個城市所做的那樣。

他們擔心的問題包括隱私風險、公民與州之間的權力平衡以及結果中的種族差異。一些批評人士說,即使人臉識別對所有面孔都同樣有效,仍然有理由限制這項技術。

盡管爭論日益激烈,但人臉識別已經深入到許多聯邦、州和地方政府機構中,并且正在傳播。美國政府在邊境檢查和尋找非法移民等任務中使用人臉識別技術。

今年早些時候,洛杉磯警察局對一起入室盜竊案做出回應,這起案件后來升級為致命的槍擊事件。一名嫌疑犯被逮捕,但另一名逃跑了。警方通過一張在線照片在人臉識別系統中搜索到了逃犯。

這起案件顯示了人臉識別系統的價值,該系統被50多個縣級機構使用,并在一個包含1200多萬張面部照片的數據庫中進行搜索。警長辦公室的中尉Derek Sabatini說:“如果沒有面部識別,警察們可能不會那么快找到嫌疑人。”

LA County系統是根據Cognitec公司的人臉匹配算法建立起來的。Cognitec是一家德國公司,和Idemia一樣,為世界各國政府提供人臉識別服務。

NIST同樣也對Cognitec算法做了測試,結果表明,對于女性和有色人種,這些算法的準確率可能會更低。在敏感閾值下,NIST測試的兩種Cognitec算法誤判黑人女性的概率大約是前者的五倍。

Cognitec算法開發總監Thorsten Thies承認兩者存在差異,但表示很難解釋。他說,其中一個因素可能是,“與白人相比,給深色皮膚的人拍一張好照片更困難?!?/p>

Sabatini對這種擔憂進行了反駁,即不管潛在的原因是什么,有偏差的算法都可能導致警務工作中的種族差異。并且表示警方在采取行動前會仔細檢查建議的匹配項,并尋找確鑿的證據。他說:“我們從2009年開始就在這里使用它,沒有任何問題:沒有訴訟,沒有案例,沒有投訴?!?/p>

其實,對于人臉識別和種族相關的新聞并不新鮮。

2012年,美國聯邦調查局(FBI)首席面部識別專家合著了一篇研究論文,發現商業面部識別系統對黑人和女性的準確率較低。喬治敦大學的研究人員在2016年一份有影響力的報告中警告了這個問題,報告稱FBI可以搜索大約一半美國人的臉。

隨著人臉識別變得越來越普遍,政策專家和決策者對技術的局限性越發感興趣,這個問題獲得了新的關注。MIT研究員、活動家Joy Buolamwini的工作尤其具有影響力。

2018年初,Buolamwini和他的人工智能研究員Timnit Gebru指出,微軟和IBM試圖檢測照片中人臉性別的服務,對于膚色白皙的男性來說近乎完美,但對于膚色黝黑的女性來說,失敗的幾率超過20%。

隨后的一項研究發現亞馬遜服務也有類似的模式。這些研究沒有測試試圖識別人類的算法(亞馬遜在一篇激進的博客文章中稱其為“誤導”)。

今年5月,在眾議院監督和改革委員會(House Oversight and Reform Committee)舉行的聽證會上,Buolamwini是一位明星證人。馬里蘭州民主黨主席Elijah Cummings表示,測試結果中的種族差異加劇了他對警察在2015年巴爾的摩抗議黑人男子Freddie Gray在警察拘留期間死亡時使用面部識別技術的擔憂。

后來,Jim Jordan(俄亥俄州共和黨人)宣布,國會需要對政府使用這項技術“做點什么”。他說:

“如果一個面部識別系統犯了錯誤,而這些錯誤對非洲裔美國人和有色人種的影響更大,那么在我看來,這就直接違反了美國憲法第一修正案和第四修正案賦予的自由?!?/p>

為什么面部識別系統對深色皮膚的識別效果不同?

Buolamwini告訴國會,許多公司用于測試或訓練面部分析系統的數據集并不具有代表性。最容易收集大量面孔的地方是網絡,那里的內容偏向白人、男性和西方人。

根據IBM的一份評論,在學術研究中引用最多的三種面部圖像收集中,81%或更多的人膚色較淺。

領導NIST測試的Patrick Grother是人臉識別領域廣受尊敬的人物,他表示,可能還有其他原因導致有色皮膚的識別效果較差。

一個是照片質量。從彩色膠片開始到數字時代,攝影技術和技術已經針對較淺顏色的皮膚進行了優化。

在11月的一次會議上,他還提出了一個更具挑釁性的假設:從統計數據上看,黑人的臉比白人的臉更相似。他說:“你可能會猜測,這與人性有關。不同的人口群體可能在我們基因的表型表達上存在差異。”

佛羅里達理工學院(Florida Institute of Technology)副教授Michael King則不那么肯定。King此前曾為美國情報機構管理包括人臉識別在內的研究項目?!斑@是我目前不準備討論的問題。我們的研究還遠遠不夠,”他說。

King與FIT和圣母大學的同事們的最新研究結果表明,解釋人臉識別算法中人口統計學上的不一致性,以及如何解決這一問題,是一項挑戰。

他們的研究測試了4種面部識別算法(兩種商業的和兩種開源的),共計53000張臉部照片。

在黑人面孔中,錯誤地匹配兩個人的情況更為常見,而在白人面孔中,沒有發現匹配面孔的情況更為常見。黑人的大頭照中有很大一部分不符合身份證照片的標準,但僅憑這一點無法解釋這種扭曲的表現。

研究人員確實發現,他們可以讓算法對黑人和白人“一視同仁”,但前提是對兩組人使用不同的敏感度設置。

這在實驗室之外是不太可能實現的,因為要求偵探或邊境特工為不同的人群選擇不同的環境會帶來歧視風險,并可能引發指控種族定性的訴訟。

當King和其他人在實驗室里仔細研究算法時,圍繞人臉識別的政治斗爭正在迅速展開。兩黨國會議員都承諾采取行動控制這項技術,理由是擔心少數族裔的準確性。周二,奧克蘭成為繼馬薩諸塞州薩默維爾和舊金山之后,自5月以來第三個禁止其機構使用該技術的美國城市。

King表示:

“讓這些系統對不同的人口統計數據同樣有效,甚至理解這是否可能實現,或為什么可能實現,這確實是一個長期目標。”

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30763

    瀏覽量

    268906
  • 人臉識別
    +關注

    關注

    76

    文章

    4011

    瀏覽量

    81863

原文標題:AI也臉盲 |黑人遭人臉識別技術“誤判”概率竟高出白人5至10倍!

文章出處:【微信號:AI_era,微信公眾號:新智元】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    九芯電子熱水器語音識別芯片IC方案,解放雙手,識別率

    操作更加人性化,更憑借其識別率技術,確保了用戶指令的準確無誤執行。九芯電子基于離線語音識別技術推出NRK3301芯片開發了新一代智能家居--熱水器聲控方案。NR
    的頭像 發表于 12-07 01:03 ?131次閱讀
    九芯電子熱水器語音<b class='flag-5'>識別</b>芯片IC方案,解放雙手,<b class='flag-5'>高</b><b class='flag-5'>識別率</b>

    九芯電子熱水器語音識別芯片IC方案,解放雙手,識別率

    九芯電子推出NRK3301語音識別芯片,支持離線識別,精準度,可語音控制熱水器,多國語言支持,安全保護,已合作多家大廠,推動熱水器行業智能化進程,帶來便捷與舒適。
    的頭像 發表于 12-06 13:44 ?124次閱讀

    在RK3568教學實驗箱上實現基于YOLOV5的算法物體識別案例詳解

    頁輸入地址,即可打開登錄界面 (根據實際IP地址修改網頁地址)。 輸入密碼:tronlong,登錄。 在程序目錄,雙擊打開程序,點擊重新運行程序。 等待右上角的進度餅圖變白,程序運行完成。 在程序最下方,會顯示運行結果。程序對2張圖片進行識別,會在藍框上方標注識別的結果和
    發表于 12-03 14:56

    通驍龍汽車新方案:CPU性能躍升3,AI性能狂飆12

    。   據了解,驍龍座艙至尊版平臺作為驍龍8295的升級版,被命名為Elite。該平臺搭載了通專為汽車行業設計的自研Oryon CPU架構,其性能相較于8295提升了3,并集成了最新的NPU,使得AI性能最高可提升12
    的頭像 發表于 10-23 14:50 ?555次閱讀

    ai人工智能回答準確

    人工智能(AI)回答的準確是一個相對的概念,會受到多個因素的影響,因此不能一概而論地說其準確或低。以下是對AI回答準確
    的頭像 發表于 10-17 16:30 ?3001次閱讀

    智能玩具用離線語音識別芯片有什么優勢

    離線語音識別芯片NRK3301在智能玩具中應用廣泛,其識別率、低成本、低功耗等特性,提升了用戶體驗和互動性,支持本地和云端處理,適合無網絡環境下的互動。
    的頭像 發表于 09-19 10:00 ?579次閱讀
    智能玩具用離線語音<b class='flag-5'>識別</b>芯片有什么優勢

    請問OPA690可以用作5或者10的放大嗎?電阻如何選擇?

    ,店里工作正常。 但是放大倍數只有兩,能不能制出5或者10的放大電路?這阻值如何設置?我試過了很多的阻值都不行!
    發表于 09-12 06:10

    平衡創新與倫理:AI時代的隱私保護和算法公平

    在人工智能技術飛速發展的今天,它不僅帶來了前所未有的便利和效率,也暴露出了一系列倫理和隱私問題。從數據隱私侵犯到“信息繭房”的形成,再到“大數據殺熟”、AI歧視和深度偽造技術的威脅,AI的應用似乎
    發表于 07-16 15:07

    基于Tiny AI技術的嬰兒哭聲事件離線檢測方案

    基于Tiny AI技術的嬰兒哭聲事件離線檢測模型,基于Arm Cortex/Risc V微處理器開發,芯片資源占用極少,有極高的準確和極低的誤識別率。
    的頭像 發表于 06-17 15:25 ?712次閱讀

    開發者手機 AI - 目標識別 demo

    功能簡介 該應用是在Openharmony 4.0系統上開發的一個目標識別AI應用,旨在從上到下打通Openharmony AI子系統,展示Openharmony系統的AI能力,并為
    發表于 04-11 16:14

    盛談HBM四年十市場 受益于AI服務器持續增長

    盛談HBM四年十市場 受益于AI服務器持續增長 AI需求爆發引發HBM存儲水漲船高,盛認為HBM供不應求的情況未來幾年或將持續,
    的頭像 發表于 03-28 14:41 ?1088次閱讀

    潞晨科技Colossal-AI + 浪潮信息AIStation,大模型開發效率提升10

    的潞晨科技Colossal-AI系統,用戶可實現在本地算力平臺一鍵訓練、微調、推理、部署大模型,將大模型開發效率提升10以上,并將算力效率提升2-3,在最大化提升大模型開發效率的同
    的頭像 發表于 03-01 09:43 ?484次閱讀
    潞晨科技Colossal-<b class='flag-5'>AI</b> + 浪潮信息AIStation,大模型開發效率提升<b class='flag-5'>10</b><b class='flag-5'>倍</b>

    通推出全新AI Hub,使AI推理速度最高提升4

    在今年的世界移動通信大會(MWC)上,通公司展示了其最新的技術成果——全新的AI Hub。這一創新平臺為開發者提供了全面優化的AI模型庫,涵蓋傳統
    的頭像 發表于 02-28 10:28 ?738次閱讀

    瑞薩電子將AI半導體處理性能最多提高16

    日本瑞薩電子公司(Renesas Electronics)最近公布了一項重大技術突破,他們成功開發了一種新技術,可以將面向人工智能(AI)的半導體的處理性能提升最多16。這項技術不僅在性能上有了顯著的提升,同時還將每瓦電力的
    的頭像 發表于 02-27 17:40 ?817次閱讀

    下一代fMRI將空間分辨提高了10

    據悉,NexGen 7T設備記錄的細節當前研究人員使用的7T MRI多出10,當前大多數醫院使用的主流3T掃描儀多出至少50以上。更
    的頭像 發表于 12-28 16:55 ?941次閱讀
    主站蜘蛛池模板: 午夜无码国产理论在线| 2020久久精品永久免费| www.国产精品视频| 精品久久久久久久久免费影院| 欧洲xxxxx| 在线中文字幕网站| 国产精品亚洲精品爽爽| 欧美高清vivoesond在线播放| 亚洲色大成网站www久久九九| 东北老妇人70OLDMAN| 免费欧美大片| 夜夜国产亚洲视频香蕉| 国产精品免费大片| 日本高清免费一本在线观看| 中文字幕视频在线观看| 好色美女小雅| 无限资源日本2019版免费| 芭乐视频免费资源在线观看| 蕾丝边娱乐网| 亚洲中字慕日产2020| 国产女合集小岁9三部| 肉动漫无码无删减在线观看| 9LPORM原创自拍达人| 久久综合色超碰人人| 亚洲中文热码在线视频| 国产高清美女一级a毛片久久w| 日本xxxx69动漫| 99久久国语露脸精品国产| 久久综合九色| 在教室伦流澡到高潮H女攻视频| 国产午夜人做人免费视频中文| 爽娇妻快高h| 东日韩二三区| 日本69色视频在线观看| jiz在线播放jizijzz| 男人的天堂黄色片| 51精品国产AV无码久久久密桃| 久久永久影院免费| 欲香欲色天天综合和网| 九九热视频免费观看| 亚洲综合免费视频|