針對(duì)人工智能(AI)算法的網(wǎng)絡(luò)攻擊新聞已不再罕見(jiàn)，現(xiàn)在幾乎每天都在發(fā)生。研究人員發(fā)現(xiàn)，無(wú)論是在實(shí)驗(yàn)室環(huán)境還是在實(shí)踐中，算法都十分脆弱。在許多頭條新聞中，我們看到人臉識(shí)別系統(tǒng)可能被特殊眼鏡和黑客操縱的醫(yī)療應(yīng)用程序欺騙，比如AI癌癥診斷系統(tǒng)。

AI的進(jìn)步、新神經(jīng)網(wǎng)絡(luò)的構(gòu)成以及神經(jīng)科學(xué)新模型的出現(xiàn)都表明，我們正在接近這樣的現(xiàn)實(shí)，即AI算法可以復(fù)制大腦功能。盡管這些技術(shù)還遠(yuǎn)遠(yuǎn)不夠完美，但AI和人類(lèi)大腦有許多驚人的相似之處，尤其是在圖像處理技術(shù)方面。

最近，科學(xué)家們發(fā)現(xiàn)，黑客不僅可以對(duì)神經(jīng)網(wǎng)絡(luò)發(fā)起對(duì)抗性攻擊，也可以對(duì)人類(lèi)發(fā)起類(lèi)似攻擊。通過(guò)某些操作，他們成功地對(duì)狗的圖像進(jìn)行了修改，讓人們誤以為它是貓。然后，科學(xué)家們又改變了蛇的圖像，使它看起來(lái)像蜘蛛，反之亦然。

這項(xiàng)研究之所以引起了我的注意，是因?yàn)樗峁┝撕芎玫睦樱覀兛梢园阉吨T實(shí)踐，檢查各種情況下發(fā)生欺騙的可能性。這促使我做了個(gè)實(shí)驗(yàn)，調(diào)查人們對(duì)這些照片的反應(yīng)，尤其是那些患有蜘蛛恐懼癥的人。喜歡蛇的人(同時(shí)也對(duì)蜘蛛有很深的恐懼)看到蜘蛛變成蛇的畫(huà)面會(huì)感到不舒服。

然而，當(dāng)他們意識(shí)到照片中的主體確實(shí)是蜘蛛時(shí)，他們的不安變成了恐懼。這些實(shí)驗(yàn)表明，這種類(lèi)型的對(duì)抗性攻擊可以在潛意識(shí)中發(fā)揮作用。也就是說(shuō)，某個(gè)人沒(méi)有意識(shí)到圖片有什么問(wèn)題，就像算法不能識(shí)別攻擊一樣。因此，當(dāng)涉及到對(duì)抗性攻擊和網(wǎng)絡(luò)安全時(shí)，我們必須考慮到，即使是人類(lèi)的眼睛，這個(gè)復(fù)雜的器官和長(zhǎng)期進(jìn)化的產(chǎn)物，也無(wú)法抵御這種攻擊。從這個(gè)意義上說(shuō)，很容易看出對(duì)感官的攻擊可以與對(duì)算法的攻擊進(jìn)行比較。

雖然神經(jīng)語(yǔ)言程序設(shè)計(jì)(NLP)還沒(méi)有得到科學(xué)的證實(shí)，但對(duì)語(yǔ)言或其他感官的對(duì)抗性攻擊可能與這個(gè)領(lǐng)域有關(guān)。事實(shí)上，對(duì)AI的隱私攻擊可以被視為吐真藥或催眠，讓我們研究以下幾種AI欺騙人類(lèi)大腦的示例：深度學(xué)習(xí)模型可以通過(guò)大量的圖像數(shù)據(jù)集進(jìn)行訓(xùn)練，從而根據(jù)一張照片來(lái)識(shí)別一個(gè)人的信任水平。使用AI進(jìn)行對(duì)抗性攻擊可以創(chuàng)建任何人最“可靠”的照片，并提高受眾的信任水平。

我們所需要的只是改變一張照片，這樣照片才能激發(fā)信任。它可以被用于廣告，由于照片的快速調(diào)整，你會(huì)更容易吸引客戶(hù)青睞!

現(xiàn)在，讓我們來(lái)看看音頻信息和語(yǔ)音感知的過(guò)程。當(dāng)我們聽(tīng)到某個(gè)詞，沒(méi)有上下文我們無(wú)法解釋它的意思時(shí)，我們經(jīng)常會(huì)在腦海中產(chǎn)生幾個(gè)猜測(cè)。當(dāng)我們聽(tīng)到一個(gè)句子的結(jié)尾時(shí)，我們的大腦會(huì)固定信息，并推斷出某個(gè)單詞的最終含義。這種機(jī)制類(lèi)似于遞歸神經(jīng)網(wǎng)絡(luò)中基于注意力的模型。

在我們解密信息之前，沒(méi)有上下文存在的所有含義都會(huì)在某種程度上被下意識(shí)地處理掉，它們會(huì)對(duì)我們的思維產(chǎn)生輕微的影響。如果人類(lèi)的大腦能夠識(shí)別由多義詞組合而成的句子的不同可能含義，人們就能在不經(jīng)意的情況下接收到平行乃至互相矛盾的命令。而巨大的數(shù)據(jù)集可以自動(dòng)化這個(gè)過(guò)程，并創(chuàng)建具有隱藏雙重含義的文本。

我再舉個(gè)例子——隱私攻擊，就是試圖揭露某個(gè)人隱藏的信息。在交流中，人們傾向于使用面部表情、身體姿勢(shì)、手勢(shì)和眼神來(lái)推斷意思。肢體語(yǔ)言往往能或明或暗地透露說(shuō)話(huà)人的心理狀態(tài)、情緒和感受。事實(shí)上，有許多類(lèi)似的隱藏?cái)?shù)據(jù)泄漏通道，如體溫、瞳孔大小、輻射水平或人類(lèi)呼吸出的化學(xué)成分。

如果有人構(gòu)建了一個(gè)精確的設(shè)備，能夠捕捉所有這些隱藏的通道，他們就能讀懂人類(lèi)對(duì)外界刺激的反應(yīng)，比如圖像和挑釁的問(wèn)題。這與神經(jīng)網(wǎng)絡(luò)上的隱私攻擊類(lèi)似，攻擊者測(cè)試不同的輸入數(shù)據(jù)來(lái)訪(fǎng)問(wèn)信息。對(duì)人類(lèi)的潛意識(shí)攻擊，如我提到的例子，通常是很可怕的。最糟糕的是，它們不是憑空想象出來(lái)的，而且可以在任何時(shí)候?qū)嵤?/p>

如果將來(lái)我們可以戴上特殊的眼鏡或助聽(tīng)器來(lái)保護(hù)自己免受音頻或視覺(jué)網(wǎng)絡(luò)攻擊，我對(duì)此不會(huì)感到驚訝。但在此之前，使用這些策略將是非常重要的，盡可能多地了解AI及其不那么光彩的用例，以確保自己和公司的安全。請(qǐng)記住，只要對(duì)這些應(yīng)用有更多的了解，與那些沒(méi)有相同知識(shí)的人相比，就就具備了很大的優(yōu)勢(shì)。