電子發(fā)燒友網(wǎng)報(bào)道(文/吳子鵬)近日,AI詐騙在國(guó)內(nèi)密集發(fā)生,犯罪分子利用人臉效果更易取得對(duì)方信任這一點(diǎn),通過AI技術(shù)換臉偽裝成受害者的熟人實(shí)施詐騙。網(wǎng)友對(duì)此感嘆:眼見都不為實(shí),真是防不勝防??!
日前,多家媒體報(bào)道稱,5月22日安徽安慶何先生接到熟人視頻電話,對(duì)方讓其幫助轉(zhuǎn)賬,視頻9秒后便以開會(huì)為由掛掉電話。還稱“微信和電話不能說,加一下QQ”。事發(fā)時(shí),何先生放松了警惕,他表示:“因?yàn)榇蛄艘曨l電話,又是熟人,我就沒多想,就轉(zhuǎn)賬了”。
好在發(fā)現(xiàn)被詐騙后,何先生迅速報(bào)警,專案民警第一時(shí)間凍結(jié)相關(guān)賬戶,連夜趕赴北京市抓獲3名涉詐嫌疑人,追回何先生被騙的132萬元。
這起案件和此前包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布的AI詐騙很相似,福州市某科技公司法人代表郭先生因?yàn)锳I換臉,10分鐘內(nèi)被騙430萬元。
AI換臉/AI變聲成詐騙“好手段”
我們?cè)诖饲暗奈恼轮幸呀?jīng)指出,未來人工智能領(lǐng)域的創(chuàng)新有七大趨勢(shì),分別是人工智能技術(shù)與云計(jì)算、物聯(lián)網(wǎng)、區(qū)塊鏈、生物科技、社會(huì)科學(xué)、藝術(shù)文化和人類自身的結(jié)合。而AI變臉和AI變聲無疑就屬于AI和人類自身的結(jié)合。
AI換臉實(shí)際上是一種利用人工智能實(shí)現(xiàn)圖像合成的技術(shù),主要原理是通過人臉檢測(cè)、關(guān)鍵點(diǎn)檢測(cè)、人臉對(duì)齊、特征提取、特征融合和后處理等步驟將一個(gè)人的面部特征轉(zhuǎn)移到另一個(gè)人的面部,產(chǎn)生以假亂真的換臉效果。
我們分步來看。AI換臉的第一步是要做人臉檢測(cè),目前這方面的算法已經(jīng)非常成熟,主要分為基于級(jí)聯(lián)的人臉檢測(cè)算法,基于兩階段的人臉檢測(cè)算法,以及基于單階段的人臉檢測(cè)算法三大類。比如Cascade CNN、MTCNN等都是基于級(jí)聯(lián)的人臉檢測(cè)算法;Face R-CNN 、ScaleFace、FDNet等都是基于兩階段的人臉檢測(cè)算法;SSD、RetinaNet等則是基于單階段的人臉檢測(cè)算法。目前,這些算法已經(jīng)發(fā)展到只需要很少的圖片信息就可以構(gòu)建成神似真人的人臉和表情。
第二步是人臉對(duì)齊。先要對(duì)人臉表觀圖像建模,也就是對(duì)檢測(cè)用到的圖片進(jìn)行建模,包括顏色模型、投影模型、側(cè)剖線模型和深度模型等。然后要對(duì)人臉形狀建模,也就是對(duì)要被更換的人臉進(jìn)行建模,這部分和我們熟知的人臉識(shí)別非常類似。然后,將兩個(gè)建好的模型進(jìn)行級(jí)聯(lián),這就是人臉對(duì)齊。
第三步是特征提取和特征融合。這是在建模后進(jìn)一步細(xì)化的工作,提取出人臉的特征向量,包括面部形狀、紋理和顏色等信息。目前,很多AI換臉都是使用基于CNN的面部表情分析和姿勢(shì)估計(jì)算法來完成。為了讓換臉后的表情更加自然,接下來就需要做特征融合,生成一份新的面部特征。
最后一步是重建圖像,通過反卷積神經(jīng)網(wǎng)絡(luò)(DCNN)或GAN等重建算法,將新的面部特征映射到模型里,并生成一個(gè)可以投射的新模型,從屏幕上看,這就是一個(gè)能夠?qū)崿F(xiàn)AI換臉的新圖像。
在AI換臉技術(shù)背后,“生成對(duì)抗網(wǎng)絡(luò)”(GAN)技術(shù)起到了很重要的作用。2014年,Goodfellow 與同事發(fā)表了全球首篇介紹GAN的科學(xué)論文,標(biāo)志著GAN AI的誕生,并且在那一年就有業(yè)者預(yù)測(cè)稱,GAN有望生成仿真度極高的人臉。隨后的幾年,GAN技術(shù)快速發(fā)展,到了2017年其生成的人臉已經(jīng)難以區(qū)分真假了。到了2021年,基于GAN技術(shù)的deepfake(深度偽造)視頻已經(jīng)能夠參演明星的演唱會(huì)了。
對(duì)于AI變聲,相信很多人都已經(jīng)在電影中見識(shí)過了,這種技術(shù)在電影中的應(yīng)用場(chǎng)景也多是用來欺騙別人,目前市面上已經(jīng)有包括AdobeAudition、Audacity等在內(nèi)的眾多變聲軟件。不過,一般用于詐騙的都是AI換聲,其是利用一種叫做語音轉(zhuǎn)換(voice conversion)的技術(shù),來實(shí)現(xiàn)聲音特征的轉(zhuǎn)換。和AI換臉相同的是,AI換聲也需要特征提取,然后將這些特征轉(zhuǎn)換輸出,需要提取的特征包括基頻、共振峰、梅爾倒譜系數(shù)等,用這些特征來改變另一個(gè)人說話的聲音。
有了AI換臉和AI換聲,就可以將一個(gè)人偽裝成另一個(gè)人,然后用于制造虛假新聞、誹謗他人、侵犯隱私、欺詐詐騙等非法領(lǐng)域。這可能就是AI技術(shù)普惠特性的B面。
不能讓AI的普惠特性被濫用
近些年,AI的應(yīng)用范圍越來越廣,呈現(xiàn)出一種百花齊放的姿態(tài),在醫(yī)療、制造、安防、金融、交通等眾多領(lǐng)域完成落地。公開數(shù)據(jù)顯示,2022年,我國(guó)人工智能市場(chǎng)規(guī)模達(dá)到2680億元,預(yù)計(jì)2023年全年我國(guó)人工智能市場(chǎng)規(guī)模將達(dá)到3200億元,同比增長(zhǎng)33.8%。
然而,高速發(fā)展的AI也有被濫用之嫌。就以AI換臉來說,積極的一面是其在數(shù)字人領(lǐng)域的應(yīng)用前景是巨大的,包括影視娛樂、游戲開發(fā)、教育培訓(xùn)、醫(yī)療保健和安防等領(lǐng)域都有望受益于這項(xiàng)創(chuàng)新技術(shù)。比如在教育培訓(xùn)行業(yè),AI換臉技術(shù)有望讓歷史人物“重生”,幫助學(xué)生更加直觀地了解歷史人物形象、文藝作品中的角色等,有利于增強(qiáng)學(xué)習(xí)興趣和認(rèn)知效果。
不過,AI換臉也被不法分子盯上了,于是乎便有了AI換臉詐騙。
實(shí)際上,對(duì)于deepfake,在其2019年成為主流時(shí)就已經(jīng)引起了立法機(jī)構(gòu)的注意。在當(dāng)時(shí),網(wǎng)上流傳出很多偽造的視頻,甚至是有關(guān)一些國(guó)家的領(lǐng)導(dǎo)人,隨后不久中美德等國(guó)家的司法機(jī)構(gòu)都開始對(duì)deepfake出手。其中,中國(guó)將未經(jīng)授權(quán)的deepfake歸為違法行為;美國(guó)情報(bào)委員會(huì)以及 AI 和法律領(lǐng)域的專家紛紛警告稱deepfake已經(jīng)呈現(xiàn)出泛濫之勢(shì),并呼吁應(yīng)盡快制定相關(guān)法規(guī);德國(guó)則發(fā)布了有關(guān)于deepfake削弱國(guó)家公信力的聲明。
目前,對(duì)于AI欺詐基本是從兩個(gè)方面進(jìn)行防范。其一是加強(qiáng)管理,比如在2022年12月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中明確規(guī)定,提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的,應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí),避免公眾混淆或者誤認(rèn)。同時(shí),近年來個(gè)人信息保護(hù)法、個(gè)人信息安全規(guī)范、數(shù)據(jù)安全法等法律法規(guī)也在加強(qiáng)個(gè)人隱私數(shù)據(jù)的保護(hù)。
其二是技術(shù)層面做突破,也就是所說的用“魔法”打敗“魔法”,目前很多公司都在致力于推出基于人工智能技術(shù)的防詐騙應(yīng)用。比如活體防偽、中介識(shí)別等,這些應(yīng)用對(duì)于AI換臉詐騙有一定的打擊作用,可以有效識(shí)別照片、視頻、面具、仿真模型等,特別是使用應(yīng)用程序?qū)崿F(xiàn)的換臉和換聲等。
當(dāng)然,無論法規(guī)和技術(shù)如何突破,AI詐騙肯定是難以杜杜絕的。因此,全民具備“防范意識(shí)”才是杜絕AI詐騙的大前提。
后記
技術(shù)在升級(jí),騙術(shù)也在升級(jí)。近一段時(shí)間以來,AI換臉欺詐的新聞?lì)l現(xiàn)報(bào)端,實(shí)際上我們都知道現(xiàn)實(shí)中的案例更多。這是AI技術(shù)的另一種打開方式,對(duì)社會(huì)穩(wěn)定發(fā)展有巨大的威脅。另外,AI換臉明星演員在直播平臺(tái)帶貨的現(xiàn)象也是屢禁不止,涉嫌欺詐或是虛假宣傳。要杜絕此類事情,需要法規(guī)和產(chǎn)業(yè)的高度配合,同時(shí)也需要增強(qiáng)全民的防范意識(shí)。
-
AI
+關(guān)注
關(guān)注
87文章
30761瀏覽量
268904 -
人工智能
+關(guān)注
關(guān)注
1791文章
47207瀏覽量
238279
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論