根據(jù)FuninUSA報(bào)道,微軟、谷歌和IBM的視覺系統(tǒng)要跟上現(xiàn)實(shí)世界需要做很多工作。這項(xiàng)研究的一些結(jié)果確實(shí)令人不安。
市場(chǎng)營銷公司Wunderman Thompson的數(shù)據(jù)集團(tuán)進(jìn)行了這項(xiàng)研究,研究了著名的視覺AI對(duì)戴PPE口罩的男性和女性的觀察方式是否相同。
研究人員為每種性別拍攝了256張不同質(zhì)量、在不同地點(diǎn)的圖像,然后使用一些大型科技公司訓(xùn)練的通用模型:谷歌云視覺(Cloud Vision)、微軟Azure認(rèn)知服務(wù)計(jì)算機(jī)視覺(Cognitive Services Computer Vision)和IBM的沃森視覺(Watson Visua)來識(shí)別。
結(jié)果卻讓人有點(diǎn)不寒而栗。
雖然沒有一個(gè)系統(tǒng)在識(shí)別口罩方面特別出色,但它們識(shí)別男性口罩佩戴者的幾率是女性口罩佩戴者的兩倍。這種根據(jù)性別分類而產(chǎn)生的顯著的識(shí)別差異令人奇怪。
那么他們認(rèn)為這些女人戴的是什么呢?谷歌AI認(rèn)為28%的女性圖片中的嘴部是被膠帶封住。在8%的例子中,AI認(rèn)為這些人是面部有毛發(fā)的女性,看起來臉上有很多毛發(fā)。
IBM的沃森(Watson)則更進(jìn)一步。在23%的案例中,被識(shí)別為女性戴著封口膠。在另外23%的案例中,確定這是一位戴著鐐銬或鎖鏈的女性。
微軟的Azur計(jì)算機(jī)視覺可能也需要更精確的編碼。調(diào)查顯示,它們認(rèn)為40%是女性佩戴的時(shí)尚配飾,14%是女性涂著口紅。
這樣的結(jié)果可能會(huì)讓很多人想知道這些人工智能的想法是從哪里來的。一個(gè)簡(jiǎn)單的答案可能是“男人”。
然而,研究人員認(rèn)為,這些機(jī)器是在網(wǎng)絡(luò)上“一個(gè)黑暗的角落”里尋找靈感,在那里,女性是暴力或沉默的受害者。”
很難想象這是真的,而且隨著我們?cè)絹碓饺菀椎孛允г谌斯ぶ悄軈仓校@可能會(huì)帶來可怕的后果。
研究人員表示,他們并不是要妖魔化人工智能。(人工智能很擅長為自己做這件事。)
相反, 正如Wunderman Thompson的數(shù)據(jù)科學(xué)主管伊林卡·巴桑(Ilinca Barsan)所指出:“如果我們想要我們的機(jī)器做準(zhǔn)確的和負(fù)責(zé)任的反映社會(huì)的工作, 我們需要幫助它們了解我們生活的社會(huì)動(dòng)態(tài),阻止它們通過自動(dòng)化來強(qiáng)化現(xiàn)有的不平等,并讓它們?yōu)椤谩ぷ鳌!?/p>
不過,當(dāng)我問研究人員對(duì)IBM退出面部識(shí)別業(yè)務(wù)的想法時(shí),他們回答說:“我們的研究側(cè)重于視覺標(biāo)簽識(shí)別,而不是面部識(shí)別,但如果人工智能模型(公認(rèn)是一般的)很容易混淆戴口罩的人和被堵住或被限制的人,那么對(duì)于IBM來說,退出一個(gè)如此容易被濫用、侵犯隱私和訓(xùn)練偏見的業(yè)務(wù)似乎是正確的(也是明智的)做法。”
在幫助機(jī)器理解關(guān)鍵元素方面,人類還沒有做得很好。比如人類本身。部分原因是機(jī)器沒有這種本能,部分原因是人類很難理解自己。
毫無疑問,人工智能在實(shí)驗(yàn)中也許發(fā)現(xiàn)了人類世界的深層潛意識(shí),即女人在人類社會(huì)中的角色籠罩在某種黑暗奴役意識(shí)之中,當(dāng)然這種潛意識(shí)普通人在瀏覽網(wǎng)頁過程中無法察覺,但是當(dāng)人工智能遍歷網(wǎng)絡(luò)世界中卻能感受到大多數(shù)網(wǎng)絡(luò)的深層潛藏的意識(shí)并加以提煉學(xué)習(xí),目前還不清楚實(shí)驗(yàn)進(jìn)行到了哪一個(gè)階段,但我們必須要清楚在人工智能認(rèn)知領(lǐng)域的研發(fā),美國企業(yè)是領(lǐng)先世界的。
目前出現(xiàn)的這種風(fēng)險(xiǎn)在人工智能領(lǐng)悟后又將傳播多少黑暗呢?
責(zé)編AJX
-
谷歌
+關(guān)注
關(guān)注
27文章
6163瀏覽量
105307 -
AI
+關(guān)注
關(guān)注
87文章
30743瀏覽量
268896 -
智能視覺
+關(guān)注
關(guān)注
0文章
100瀏覽量
9205
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論