BuzzFeed的人類(lèi)們，一路喜歡搞事情。

自從亞馬遜的人臉識(shí)別系統(tǒng)Rekognition，把28位美國(guó)議員認(rèn)成了罪犯，他們就決定親自實(shí)驗(yàn)一下。

不過(guò)，BuzzFeed測(cè)試的不是這套系統(tǒng)，而是同屬亞馬遜的一個(gè)名人識(shí)別AI。

把FBI通緝犯的507幅圖像拿去給AI匹配。

△畫(huà)家Bob Ross與通緝令上的Mike W. Jackson

結(jié)果，吉他手啊，演員啊，畫(huà)家啊，紛紛與通緝犯高分匹配成功。AI一共完成了17次置信度 (Confidence)95%以上的匹配。

在另外一項(xiàng)用NIST臉部數(shù)據(jù)集做的測(cè)試?yán)铮珹I還把美國(guó)前國(guó)務(wù)卿賴(lài)斯，和一非裔男子被捕后的照片，匹配在了一起，置信分是96%。

機(jī)智的你可能發(fā)現(xiàn)了，重點(diǎn)不在明星和通緝犯的匹配，卻在于這些匹配并非勉勉強(qiáng)強(qiáng)拉個(gè)人湊數(shù)，而是AI很有信心的答案。

為什么會(huì)這樣？BuzzFeed也想知道，于是聯(lián)系了亞馬遜。

亞馬遜：這不是人臉識(shí)別

得到的答復(fù)，可能比實(shí)驗(yàn)結(jié)果，還要讓人驚喜。

亞馬遜說(shuō)，別看名人AI是作為Rekognition的一次更新，發(fā)布出來(lái)的，它們兩個(gè)其實(shí)是完全不同的產(chǎn)品啊。

名人AI是個(gè)娛樂(lè)產(chǎn)品，會(huì)在社交網(wǎng)絡(luò)或者搞笑App這樣的地方出現(xiàn)。

所以，它要做的就是給出更多相似的組合。

比如，加勒比海盜的杰克船長(zhǎng)，畫(huà)了很濃的妝，跟強(qiáng)尼戴普平時(shí)的樣子相差不少。

即便這樣，名人AI還是會(huì)給你一個(gè)很高的置信分，告訴你他們兩個(gè)是同一個(gè)人。

而同樣的一組圖，喂給Rekognition的話，兩者匹配的置信分?jǐn)?shù)，可能就只有50%-60%了。

畢竟，后者作為嚴(yán)肅的人臉識(shí)別AI，設(shè)定里就包含了執(zhí)法用途。

為了強(qiáng)調(diào)兩者的差異，亞馬遜甚至表示，名人AI根本不是人臉識(shí)別系統(tǒng)，它和Rekognition在模型的結(jié)構(gòu)上，就有明顯的不同。

未曾寫(xiě)清差別

可問(wèn)題是，普通人沒(méi)有辦法感覺(jué)到這樣的差異。

至少，亞馬遜的官方文件和宣傳文，都沒(méi)有體現(xiàn)它們之間的區(qū)別。

在跟BuzzFeed聊過(guò)之后，亞馬遜的人類(lèi)才修改了Rekognition的文件。修改過(guò)的版本，已經(jīng)可見(jiàn)二者結(jié)構(gòu)上的不同了。

亞馬遜的一位發(fā)言人說(shuō)，之前的文章寫(xiě)得太傻了，只想著吸引人點(diǎn)進(jìn)去，沒(méi)有想到應(yīng)該讓用戶(hù)看清楚。

就像剛才說(shuō)的，名人AI針對(duì)的是，會(huì)在影視作品里偽裝自己的演員，把他們的扮相和真實(shí)的長(zhǎng)相匹配起來(lái)。

所以，如果只對(duì)著一群通緝犯去匹配，當(dāng)然匹配不出正確的結(jié)果了。

亞馬遜還表示，大家不用在意名人AI給的置信分，因?yàn)檎嬲娜四樧R(shí)別系統(tǒng)，打分的規(guī)則是完全不一樣的。

特意不寫(xiě)清楚？

這樣，問(wèn)題又來(lái)了。

加州大學(xué)伯克利分校的學(xué)者Joshua Kroll說(shuō)，執(zhí)法用的AI系統(tǒng)，大部分都不會(huì)公開(kāi)技術(shù)細(xì)節(jié)。

這樣的話，公司說(shuō)什么，就是什么。

像亞馬遜，Rekognition被爆出“把議員認(rèn)成罪犯”之后，公司才向外界解釋說(shuō)，95%以上是推薦的置信度。

可置信分?jǐn)?shù)到底是怎樣得出的，代表怎樣的含義，亞馬遜從來(lái)沒(méi)有解釋過(guò)。

Kroll說(shuō)，讓外界產(chǎn)生那么大的困惑，這是亞馬遜自己選擇的。

如果公司愿意透露更多的細(xì)節(jié)，比如系統(tǒng)是如何開(kāi)發(fā)，或如何運(yùn)行的，那么針對(duì)亞馬遜人臉識(shí)別技術(shù)的質(zhì)疑和困惑就會(huì)少一些。

如何解讀置信分？

可是現(xiàn)在，只是給出了95%的推薦置信閾值，執(zhí)法人員又應(yīng)該怎樣理解這個(gè)數(shù)字呢？

來(lái)自喬治城法律中心的Clare Garvie說(shuō)，一個(gè)人如果看到99%的置信度，那ta大概會(huì)認(rèn)為系統(tǒng)給的結(jié)果是99%肯定的。

可事實(shí)并不是這樣，那只是AI系統(tǒng)自己的信心而已。

而執(zhí)法人員會(huì)怎么解讀這個(gè)數(shù)字，取決于他們接受的是怎樣的培訓(xùn)。

這個(gè)解讀，又可能影響到案件調(diào)查的方向，人類(lèi)很可能更偏重于那些置信分高的匹配結(jié)果。

人們之所以會(huì)有各種各樣的擔(dān)心，一部分也是因?yàn)椋珹I可以調(diào)查各種各樣的人，可對(duì)人類(lèi)又很難對(duì)AI的工作原理展開(kāi)調(diào)查。

人類(lèi)在明，AI在暗。

無(wú)休止的調(diào)查？

除此之外，當(dāng)人臉識(shí)別被用于執(zhí)法，你一旦被監(jiān)控拍到，就不知道AI對(duì)你的調(diào)查，什么時(shí)候是個(gè)頭了。

亞馬遜說(shuō)，存下圖像，只是為了維護(hù)系統(tǒng)，改進(jìn)系統(tǒng)。

可是，圖像會(huì)不會(huì)被濫用，誰(shuí)也不知道。