面部識別系統是有爭議的,至少可以這樣說。上周,亞馬遜因向執法機構提供面部掃描技術而成為頭條新聞。研究表明,一些面部識別算法對某些種族存在固有的偏見。
人們對這種人工智能監視系統的擔憂,促使多倫多的研究人員開發了一種針對它們的工具。多倫多大學的教授Parham Aarabi和研究生Avishek Bose發明了一種算法,通過對圖像進行光轉換,動態地破壞面部識別系統。
“隨著面部識別技術越來越先進,個人隱私成為了一個真正的問題,”Aarabi在一份聲明中說,“這就是反面部識別系統的用武之地?!?/p>
旨在破壞面部識別的產品和軟件并不是什么新鮮事物。在2016年11月的一項研究中,美國卡內基梅隆大學的研究人員設計了一種眼鏡框,可以誤導面部識別系統,使其產生錯誤的識別。在2017年11月,麻省理工學院和日本九州大學的專家們用一種算法將一幅3D打印的海龜的照片標記為了步槍,方法是改變照片中的一個像素。
▲圖:研究人員的反面部識別系統在起作用
但根據Bose和Aarabi的說法,這是使用人工智能的首批解決方案之一。他們的算法是在600張人臉的數據集上進行訓練的,它會發出一個實時的過濾器,可以應用到任何圖片上。因為它的目標——圖像中的單個像素——是特定的,因此它幾乎是肉眼無法察覺的。
這兩名研究人員采用了對抗訓練(adversarial training)技術。這種技術使兩個神經網絡相互對抗——一個神經網絡從數據中獲得信息,另一個試圖破壞第一個神經網絡的任務。Aarabi和Bose的系統使用第一個神經網絡來識別人臉,并利用第二個神經網絡來擾亂面部識別過程。
他們的研究報告將在2018年IEEE國際多媒體信號處理研討會上發表。Bose和Aarabi聲稱,他們的算法將人臉識別系統中被檢測到的人臉的比例降低到了0.5%。他們希望在應用或網站上提供這種神經網絡系統。
“十年前,這些算法必須是人類定義的,但現在神經網絡可以自己學習——除了訓練數據之外,你不需要提供任何東西,”Aarabi說,“最終,他們可以做一些非常了不起的事情。這是一個很有意思的領域,有著巨大的潛力?!?/p>
-
面部識別
+關注
關注
1文章
375瀏覽量
26632
發布評論請先 登錄
相關推薦
評論