在深度偽造者設計出下一個替代方案之前，檢測器大多是有效的。

2022年3月，網絡上出現了一段視頻，內容是烏克蘭總統弗拉基米爾?澤連斯基要求其軍隊向***。這段通過人工智能（AI）制作的視頻質量很差，很快就被揭穿為不實信息。但有一天，更精細的制作可能會帶來嚴重的地緣政治后果。

正因如此，計算機科學家們在繼續設計更好的算法用于生成視頻、音頻、圖像和文本的同時，也在創建逆向算法來檢測合成內容。如今，這種檢測通常著眼于特制工具的細微特征；未來，它將越來越多地依賴于基礎的物理和生物信號，這些是人工智能很難仿造的。

這些數字幻影生成器和檢測器會陷入軍備競賽，這也是完全有可能的。“在這方面，它永遠不會終止。”意大利那不勒斯菲里德里克第二大學的計算機科學家路易莎?威爾多利瓦（Luisa Verdoliva）說。

這些數字幻影生成器和檢測器完全有可能陷入軍備競賽。

2022年11月，英特爾推出了一款名為“實時深度偽造檢測器”的視頻分析平臺。（“深度偽造”這一詞源于深度學習，深度學習是一個使用多層人工神經網絡的人工智能領域。）英特爾的研究員伊爾克?德米爾（Ilke Demir）說，可能的客戶包括社交媒體公司、廣播公司和可以向公眾提供檢測器的非政府組織。英特爾表示，該系統由英特爾硬件和軟件組成，基于互聯網的平臺可遠程運行這些硬件和軟件，每個英特爾處理器一次可分析72個視頻流。該公司表示，最終，其平臺將提供多種檢測工具。目前，該公司使用了一種名為FakeCatcher的檢測器，這是德米爾與紐約賓漢頓大學的烏穆爾?西夫西（Umur ?ift?i）共同創建的。

FakeCatcher研究根據面部顏色變化來推斷血液流動，這一過程稱為光容積脈搏波描記（PPG）。研究人員設計的該款軟件關注特定面部區域的特定模式。“從某種意義上來說，光容積脈搏波描記信號很特別，它們遍布人的皮膚，”德米爾說，“而不僅僅是眼睛或嘴唇。改變照明并不能消除它們。但是任何生成性的操作實際上都會消除它們，因為添加的噪聲類型會破壞空間、光譜和時間的相關性。”換言之，FakeCatcher能夠證實，隨著心臟泵血，顏色會隨著時間的推移自然變化，在面部區域有一致性。最初于2020年7月發表在《IEEE模式分析與機器智能匯刊》（IEEE Transactions on Pattern Analysis and Machine Intelligence）上的一項早期技術測試中，該檢測器實現了91%的準確率，比次優系統高出近9個百分點。 當新的檢測方法出現時，有人可以經常訓練生成算法來欺騙它。德米爾說，FakeCatcher不容易被逆向工程用于訓練生成器，因為人體細密紋理的血流模式很難被人工模擬。

加州大學圣芭芭拉分校電氣工程博士、論文合著者邁克爾?戈貝爾（Michael Goebel）指出，檢測方法多種多樣。“在一種極端情況下，你的方法不受約束，只是純粹的深度學習。”這意味著它們可以使用所有可用的數據。“另一種極端情況下，你的方法好像在分析一個特定的視角。我們的方法居于二者之間。”他們的系統名為PhaseForensics，該系統關注的是嘴唇，據此提取不同頻率的運動信息，然后將這些摘要數據提供給神經網絡。“利用運動的自身特征，我們希望對神經網絡學習的內容進行某種程度的硬編程。”戈貝爾說。

音頻深度偽造也成為了一個問題。2023年1月，有人上傳了一段女演員艾瑪?沃森朗讀希特勒《我的奮斗》的虛假音頻片段。研究人員也研究了這個案例。在一種方法中，佛羅里達大學的科學家開發了一種模擬人類聲道的系統。該模型以數字方式構建了一個發聲氣道，其管道的孔徑可根據長度而變化，該模型可使用該結構來預測聲音。給定一個可疑的音頻樣本，模型會判定它在生物學上是否合理。該論文報告顯示，一個數據集的準確率為99%。

為了打擊深度偽造，該算法不需要對特定算法生成的深度偽造音頻進行采樣。那不勒斯大學的威爾多利瓦開發了另一類算法。在訓練過程中，該算法學習尋找講話者的生物識別標志。訓練完成后，算法可在給定講話者的錄音中，使用其學習到的技術來尋找生物識別標志，然后在有問題的錄音中尋找該識別標志。

威爾多利瓦的團隊還研究了識別生成的圖像和被修改的圖像，無論圖像是用人工智能還是用Adobe Photoshop修改的。該團隊用1475臺相機的照片訓練了一個名為TruFor的系統，該系統學會了識別這些相機留下的識別標志類型。在檢測新圖像時，該系統能夠識別出圖像各部分之間的不匹配情況。

如今，高中生經常制作人工智能生成內容，從而提升了文本生成系統ChatGPT撰寫論文的能力。有一種解決方案是讓這些被稱為大型語言模型的系統的創建者在生成的文本上加上水印。最近，馬里蘭大學的研究人員提出了一種方法：隨機創建一組詞匯綠色名單；然后，在自己的作品中略微偏愛使用這些詞匯。如果你知道這個（秘密）詞匯綠色名單，你就可以在一段文章中尋找其優勢，以證明該段文章來自算法。這種做法存在一個問題：強大的語言模型越來越多，我們不能指望所有的語言模型都給其輸出加上水印。

普林斯頓大學的學生愛德華?田（Edward Tian）創建了一個名為GPT-Zero的工具，該工具可以查找Chat-GPT編寫文本的痕跡，即使沒有水印也可以。人傾向于選擇更令人驚訝的單詞，而且句子長度的波動很大。不過GPTZero似乎有局限性。一位用戶對GPTZero進行了一次小測試，在10篇由人工智能撰寫的文本中，它能正確地將10篇標記為合成文本，但在10篇由人撰寫的文本中，它錯誤地將8篇標記為了合成文本。

合成文本檢測可能遠遠落后于其他媒介的檢測。馬里蘭大學計算機科學副教授湯姆?金斯坦（Tom Goldstein）是水印論文的合著者，他表示，這是因為人們使用語言時有很多種不同的方式，而且通常沒有太大的數據量。一篇短文可能只有幾百個單詞，而圖片則有幾百萬個像素，單詞是離散的，不同于像素顏色中的細微變化。

檢測合成內容事關重大。它可用來影響教師、法院或選民，也可以產生羞辱性的或令人不安的內容。僅僅是深度偽造的想法就可以削弱人們對媒體的信任。德米爾稱這種未來是“反烏托邦的”。她說，短期內，我們需要的是檢測算法。從長遠來看，我們還需要協議來建立起源，可能涉及水印或區塊鏈。

談到檢測方法，威爾多利瓦說：“人們希望有一種神奇的工具，它能夠完美地完成每件事，甚至能夠進行解釋。”這種東西是不存在的，而且可能永遠不會出現。“我們需要多種工具。”即使檢測器能夠戳破深度偽造，內容在消失前依然會在網絡上短暫地留存。它會產生影響。因此，威爾多利瓦說，僅僅依靠技術是不能拯救我們的。相反，人們需要找到方法來適應這個新的、充滿非真實性的現實世界。

作者：Matthew Hutson

編輯：黃飛