針對(duì)人工智能(AI)算法的網(wǎng)絡(luò)攻擊新聞已不再罕見(jiàn),現(xiàn)在幾乎每天都在發(fā)生。研究人員發(fā)現(xiàn),無(wú)論是在實(shí)驗(yàn)室環(huán)境還是在實(shí)踐中,算法都十分脆弱。在許多頭條新聞中,我們看到人臉識(shí)別系統(tǒng)可能被特殊眼鏡和黑客操縱的醫(yī)療應(yīng)用程序欺騙,比如AI癌癥診斷系統(tǒng)。
AI的進(jìn)步、新神經(jīng)網(wǎng)絡(luò)的構(gòu)成以及神經(jīng)科學(xué)新模型的出現(xiàn)都表明,我們正在接近這樣的現(xiàn)實(shí),即AI算法可以復(fù)制大腦功能。盡管這些技術(shù)還遠(yuǎn)遠(yuǎn)不夠完美,但AI和人類大腦有許多驚人的相似之處,尤其是在圖像處理技術(shù)方面。
最近,科學(xué)家們發(fā)現(xiàn),黑客不僅可以對(duì)神經(jīng)網(wǎng)絡(luò)發(fā)起對(duì)抗性攻擊,也可以對(duì)人類發(fā)起類似攻擊。通過(guò)某些操作,他們成功地對(duì)狗的圖像進(jìn)行了修改,讓人們誤以為它是貓。然后,科學(xué)家們又改變了蛇的圖像,使它看起來(lái)像蜘蛛,反之亦然。
這項(xiàng)研究之所以引起了我的注意,是因?yàn)樗峁┝撕芎玫睦?,我們可以把它付諸實(shí)踐,檢查各種情況下發(fā)生欺騙的可能性。這促使我做了個(gè)實(shí)驗(yàn),調(diào)查人們對(duì)這些照片的反應(yīng),尤其是那些患有蜘蛛恐懼癥的人。喜歡蛇的人(同時(shí)也對(duì)蜘蛛有很深的恐懼)看到蜘蛛變成蛇的畫(huà)面會(huì)感到不舒服。
然而,當(dāng)他們意識(shí)到照片中的主體確實(shí)是蜘蛛時(shí),他們的不安變成了恐懼。這些實(shí)驗(yàn)表明,這種類型的對(duì)抗性攻擊可以在潛意識(shí)中發(fā)揮作用。也就是說(shuō),某個(gè)人沒(méi)有意識(shí)到圖片有什么問(wèn)題,就像算法不能識(shí)別攻擊一樣。
因此,當(dāng)涉及到對(duì)抗性攻擊和網(wǎng)絡(luò)安全時(shí),我們必須考慮到,即使是人類的眼睛,這個(gè)復(fù)雜的器官和長(zhǎng)期進(jìn)化的產(chǎn)物,也無(wú)法抵御這種攻擊。從這個(gè)意義上說(shuō),很容易看出對(duì)感官的攻擊可以與對(duì)算法的攻擊進(jìn)行比較。
雖然神經(jīng)語(yǔ)言程序設(shè)計(jì)(NLP)還沒(méi)有得到科學(xué)的證實(shí),但對(duì)語(yǔ)言或其他感官的對(duì)抗性攻擊可能與這個(gè)領(lǐng)域有關(guān)。事實(shí)上,對(duì)AI的隱私攻擊可以被視為吐真藥或催眠,讓我們研究以下幾種AI欺騙人類大腦的示例:
閾下知覺(jué)廣告
深度學(xué)習(xí)模型可以通過(guò)大量的圖像數(shù)據(jù)集進(jìn)行訓(xùn)練,從而根據(jù)一張照片來(lái)識(shí)別一個(gè)人的信任水平。使用AI進(jìn)行對(duì)抗性攻擊可以創(chuàng)建任何人最“可靠”的照片,并提高受眾的信任水平。
我們所需要的只是改變一張照片,這樣照片才能激發(fā)信任。它可以被用于廣告,由于照片的快速調(diào)整,你會(huì)更容易吸引客戶青睞!
利用音頻
現(xiàn)在,讓我們來(lái)看看音頻信息和語(yǔ)音感知的過(guò)程。當(dāng)我們聽(tīng)到某個(gè)詞,沒(méi)有上下文我們無(wú)法解釋它的意思時(shí),我們經(jīng)常會(huì)在腦海中產(chǎn)生幾個(gè)猜測(cè)。當(dāng)我們聽(tīng)到一個(gè)句子的結(jié)尾時(shí),我們的大腦會(huì)固定信息,并推斷出某個(gè)單詞的最終含義。這種機(jī)制類似于遞歸神經(jīng)網(wǎng)絡(luò)中基于注意力的模型。
在我們解密信息之前,沒(méi)有上下文存在的所有含義都會(huì)在某種程度上被下意識(shí)地處理掉,它們會(huì)對(duì)我們的思維產(chǎn)生輕微的影響。如果人類的大腦能夠識(shí)別由多義詞組合而成的句子的不同可能含義,人們就能在不經(jīng)意的情況下接收到平行乃至互相矛盾的命令。而巨大的數(shù)據(jù)集可以自動(dòng)化這個(gè)過(guò)程,并創(chuàng)建具有隱藏雙重含義的文本。
AI支持的測(cè)謊儀
我再舉個(gè)例子——隱私攻擊,就是試圖揭露某個(gè)人隱藏的信息。在交流中,人們傾向于使用面部表情、身體姿勢(shì)、手勢(shì)和眼神來(lái)推斷意思。肢體語(yǔ)言往往能或明或暗地透露說(shuō)話人的心理狀態(tài)、情緒和感受。事實(shí)上,有許多類似的隱藏?cái)?shù)據(jù)泄漏通道,如體溫、瞳孔大小、輻射水平或人類呼吸出的化學(xué)成分。
如果有人構(gòu)建了一個(gè)精確的設(shè)備,能夠捕捉所有這些隱藏的通道,他們就能讀懂人類對(duì)外界刺激的反應(yīng),比如圖像和挑釁的問(wèn)題。這與神經(jīng)網(wǎng)絡(luò)上的隱私攻擊類似,攻擊者測(cè)試不同的輸入數(shù)據(jù)來(lái)訪問(wèn)信息。
自我保護(hù)措施
對(duì)人類的潛意識(shí)攻擊,如我提到的例子,通常是很可怕的。最糟糕的是,它們不是憑空想象出來(lái)的,而且可以在任何時(shí)候?qū)嵤S辛诉@些建議,你可以武裝自己,抵御這些攻擊:
——仔細(xì)檢查你所使用媒體中的所有關(guān)鍵信息,并對(duì)你發(fā)送的信息進(jìn)行反復(fù)審核;
——學(xué)習(xí)心理學(xué),并了解大腦是如何工作的,然后把這些知識(shí)應(yīng)用到你每天看到的視覺(jué)刺激上;
——不要在社交媒體上發(fā)布過(guò)多不必要的個(gè)人信息,你肯定不希望有額外的數(shù)據(jù)可以提供給黑客有針對(duì)性的信息。
如果將來(lái)我們可以戴上特殊的眼鏡或助聽(tīng)器來(lái)保護(hù)自己免受音頻或視覺(jué)網(wǎng)絡(luò)攻擊,我對(duì)此不會(huì)感到驚訝。但在此之前,使用這些策略將是非常重要的,盡可能多地了解AI及其不那么光彩的用例,以確保自己和公司的安全。請(qǐng)記住,只要對(duì)這些應(yīng)用有更多的了解,與那些沒(méi)有相同知識(shí)的人相比,就就具備了很大的優(yōu)勢(shì)。
-
算法
+關(guān)注
關(guān)注
23文章
4608瀏覽量
92845 -
AI
+關(guān)注
關(guān)注
87文章
30763瀏覽量
268917
原文標(biāo)題:AI算法復(fù)制人類大腦功能?這種AI正通過(guò)三種方式欺騙你!
文章出處:【微信號(hào):smartman163,微信公眾號(hào):網(wǎng)易智能】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論