隨著社會的發展，時代的進步，我們能相信AI可以無所不能，可以如同人類的眼睛一樣去辨識所有的事物。但是，來自AI神經網絡的視覺卻遭到了人們的質疑。有研究人員認為，AI可能難以分辨事物的真相。

　　從無人車到智能監視器，社會正在緩慢地相信AI或許真的可以代替人眼。但是雖然我們的機器眼看起來永不疲倦，他們也絕不是完美的。看看下圖，你看見的是不是一只烏龜？但是，谷歌訓練出來的一個神經網絡卻不是這么想的。對它來說，這張圖里是一只來復槍。

　　這個 3D 打印出來的烏龜是一個“對抗性圖像。”在 AI 的世界，這些圖形是被精心設計來欺騙機器視覺軟件的，它們都含有特定的特征使得 AI 系統無法正常識別。你可以將他們想成是計算機的視覺幻象。你可以制作一個“對抗性眼鏡”，從而使得臉部識別系統將你認成其他人，又或者將一層幾乎不可見的對抗性圖案附加到被識別圖形上。人們無法分出這些圖形的區別，但是對 AI 來說，這意味著一只熊貓瞬間變成了大貨車。

　　生成和抵抗這種對抗性攻擊是在蓬勃發展的研究領域。要聲明的是，雖然這些攻擊看起來極其有效，但是并不是毫無弱點。這意味著如果你將對抗性圖像旋轉角度或是將某個部分放大，計算機就可以看出“對抗性圖案”的蹊蹺并且準確識別圖形。為什么這個 3D 打印的烏龜很重要呢？是因為它表明對抗性攻擊可以在 3D 世界中進行，成功騙過從不同角度監視的電腦。

　　“具體來說，這意味著某些人可以制作出在人類看來完全正常的公告牌，但對于無人車來說它們就變成了突然出現在街邊的行人。” Labsix，發表此項研究的 MIT 團隊的學生之一。“這些例子在神經網絡應用越來越廣泛的今天足以引起人們的憂慮。”

　　Labsix 將他們的新方法稱為“轉變預期 Expectation Over Transformation 。”除了制作出這個看起來像來福手槍的烏龜，他們還制作出了一個被認成咖啡的棒球。這個團隊在谷歌開發的圖像分類器 Inception-v3 上進行了測試。這個分類器對開發者們免費開放，供其測試。雖然他們還沒有在其他機器視覺軟件上進行測試，但是我們至今還沒有有效地對抗這一攻擊的萬靈藥。而雖然谷歌官方并未對這篇論文發表任何意見，一位發言人則向我們介紹了一些最近由其研究員發表的一系列討論如何抵御組織對抗性攻擊的論文。

　　當然，這一研究也受到了一些質疑。首先，這個團隊自己承認他們所說的對抗性攻擊可以在任意角度生效這個論點并不嚴謹。事實上，他們的展示錄像顯示，雖然他們可以在大多數角度欺騙計算機，但是不是所有角度都能成功。其次，Labsix 需要了解谷歌視覺的算法來發現其弱點并欺騙它。而對于大多數算法處于保密狀態的系統來說攻擊難度大大增加。但是，已經有一些其他的對抗性攻擊在完全不知道算法的情況下成功，據可靠消息，Labsix 的團隊接下來也將向這一方向進行進一步的研究。

　　對抗性攻擊還不會對公眾形成巨大的影響。他們是很有效，但是是在相對局限的情況下。雖然機器視覺在現實世界中越來越普遍，可我們還未完全依賴它們。而我們應該從這一試驗中得到的經驗是，一些 AI 系統可以有多么的脆弱。如果我們現在不去解決這些問題，他們就會在未來導致更大的問題。