近日，一段關于扎克伯格的惡搞視頻在Instagram上流傳。該視頻中，扎克伯格的面部表情極其僵硬，聲音與本人的相比差距很大。事實上，這是以色列一家科技公司利用人工智能（AI）換臉技術合成而來，這一技術也被稱為“深度偽造”（deepfake）。更遭受爭議的deepfake例子例如最近走紅網絡的一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性圖片就可自動生成相應的裸照，由于廣泛傳播而造成了預料之外的后果，開發者最終將APP下架。背后都用到了深度偽造技術，即一種利用AI程序和深度學習算法實現視、音頻模擬和偽造的技術，投入深度學習的內容庫越大，合成的視音頻真實性越高，甚至可以達到以假亂真的程度。深度偽造技術不僅能實現換臉（face swap），更可以通過深度學習模擬真人聲音、創造出現實不存在的人物肖像。利用該技術，可以以視頻這一較為可信的方式讓某人說不曾說過的話，做不曾做的事，達到混淆觀眾的目的。具備極高欺騙性的深度偽造也引發諸多爭議，例如楊冪換臉，AI軟件自動生成裸照，奧巴馬、普京等政治人物的深度偽造視頻等等，給個人和社會帶來風險挑戰。

2019年6月13日，美國眾議院情報委員會召開關于人工智能深度偽造的聽證會，公開談論了深度偽造技術對國家、社會和個人的風險及防范和應對措施。這是美國眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術的聽證會，會議邀請了四位來自不同領域的專家，分別是美國外交政策研究所研究員Clint Watts、馬里蘭大學法學教授Danielle Citron、布法羅大學人工智能研究所所長David Doermann和Open AI政策總監Jack Clark，以系統介紹深度偽造技術及解答議員的疑惑，共同探討“深度偽造”的風險及應對之策。

一、深度偽造技術的喜與憂

互聯網時代下，先進的AI技術和開放的數據流動給社會帶來巨大的信息紅利。信息流動載體從原始的文本、到語音、至視頻、后進化至如今的虛擬現實，數據的巨大量和更高的開放程度允許越來越多消費者參與進來。而今隨著AI、深度偽造技術的發展，信息更能以重塑現實的方式豐富用戶的體驗。與AI結合的深度學習算法用于科學研究上，能幫助改善醫學圖像分析，還能用于彌補聽力缺陷，幫助有聽力障礙的人“聽懂”別人的話語等。一家公司甚至聲稱其通過利用這項技術能讓因病失語者恢復說話能力。深度偽造技術用于制作、真實還原歷史人物的肖像、相關音頻和視頻，或者讓藝術作品中的靜態的人物角色“活起來”，實現教育大眾、豐富人們精神世界的目的。

然而經偽造的信息能使無中生有，與AI算法的結合更極大地提高了其可信度。進入數據高度開放流動的互聯網領域，深度偽造信息的影響力在瞬間能被成千萬倍放大，其具備的負面作用不得不引起重視。在此次聽證會上，專家學者主要討論了深度偽造技術所具備的幾種潛在風險。

1

個體人身損害

制作虛假的色情視頻是深度偽造技術常見的運用方式之一。利用該技術能實現將一些公眾人物的臉移轉到色情明星的身體上，偽造逼真的色情場景。這些虛假的色情視頻一經傳播，受害人的名譽將嚴重受損，個人隱私還隨時有可能受到侵犯。Citron教授列舉了印度作者Rana Ayyub的例子，即Rana Ayyub在4月份發表了一篇具有挑釁性的報道后，網絡上開始流傳著一段以其為主角的色情視頻。這個視頻正是被人利用深度偽造技術合成而來，在Facebook、Twitter和WhatsApp上得到成千上萬人的傳播。隨后Ayyub的家庭地址等個人信息被曝光在網上，其因此也收到了大量的***威脅。Ayyub的生活和工作都受到了極大的影響，承受著極大的精神折磨，其不得不遠離網絡。Citron教授在其關于網絡騷擾的研究中發現，這種現象發生在越來越多的弱勢群體身上。深度偽造技術讓污名化女性、“色情報復”成為可能。

2

企業信譽及經濟的損失

深度偽造技術對企業首次募股（IPO）同樣有不可估量的負面影響。“想象一下在IPO前一晚，一段經深度偽造合成的視頻顯示公司的CEO宣布公司破產……市場的反應速度往往比當事人澄清的速度更快，”Citron說。企業主要負責人的一言一行代表著該公司，其對社會的公開聲明一般也代表著整個公司的意志。然而，深度偽造技術恰可以借用企業負責人的公開談話視頻，篡改表情及談話內容，散播虛假信息，讓社會公眾發生錯誤認識，直接影響公司的信譽及經濟利益。

3

國家安全、公共安全受到威脅

最近，美國眾議院議長Nancy Pelosi的一段深度偽造的談話視頻出現在社交媒體上，這段視頻經由特朗普總統分享，在Facebook上獲得了超過250萬次的瀏覽量。早些的時候，美國前總統奧巴馬的臉被“借用”來攻擊特朗普總統，該視頻在網站上也獲得480萬的瀏覽量。特朗普總統本人也難逃一劫，西雅圖電視網曾播放過一段深度偽造的特朗普演講視頻，視頻中特朗普總統滿臉通紅，還不時做一些滑稽的表情。由于深度偽造技術可以運用在包括總統在內的任何官員身上，美國兩黨開始擔心該技術將成為針對美國和其他西方國家發起虛假信息戰爭的最新武器。

聽證會上，Watts則表示了其對國家安全的擔憂：深度偽造技術可以讓虛假的信息以高度可信的方式呈現給社會公眾，從而操縱觀眾的情緒反應，引發社會廣泛的不信任。它很可能被外國競爭對手利用，作為詆毀國內政黨、煽動恐怖和暴力活動、挑撥西方內部矛盾的工具。同時，Watts指出深度偽造技術對美國2020大選的潛在威脅——若放任偽造視頻擴散，則會對美國民主選舉產生不良影響，挫傷選民的積極性；從短期看，深度偽造還可能會對公共安全產生一定影響，讓虛假的信息打著真實的幌子煽動暴力沖突，成為不法者借以實施暴力的工具。例如在2018年，印度各地有20多人因為在WhatsApp上被謠傳綁架小孩或涉及其他罪案而被暴力打死。

4

新聞媒體行業的社會信任衰退

聽證會的專家們一致認為，深度偽造技術的影響不僅局限于政治領域，對新聞業亦如此。在一個社會公眾對記者和媒體普遍不信任的時代，深度偽造技術的誕生更是加劇了這種不信任。深度偽造不僅騙取公眾信任，其存在也表明了媒體報道并不可靠；Citron對此表示贊同，“難以證偽的報道會使記者質疑有關真相的證據的真實性，從而阻礙該證據的呈現和報道。”虛假信息最終會掩蓋并代替真相，Citron將此稱為“信任衰退效應”。Watts進一步指出，“長期接觸虛假信息和深度偽造技術可能讓公眾在真真假假中迷失自我，從而做出比較極端的選擇。如果長期無法分辨真偽，他們要么相信一切，要么不信任一切。”Watts還提到了俄羅斯政府與人民之間的關系，稱克里姆林宮用“謊言之火”來控制公眾輿論。

此外，眾議院成員還關心深度偽造技術可能成為說謊者擺脫質疑的工具。在深度偽造普遍運用的環境下，人們經教育已不再輕易相信自己親眼所見，這種多疑的心理正好可以被說謊者利用。對于一個不利于自己的信息，盡管其沒有經過任何加工，任何人都可以宣稱是偽造的，從而達到混淆公眾視聽的目的。Stewart議員提出假設：一名官員因貪污被抓，官員可以隨時狡辯稱作為證據的信息內容是經深度偽造合成的虛假內容，“而事實是，證據不僅為真，那位官員所作所為遠比證據呈現出來的還要罪惡。”在互相矛盾的真假兩派中，總有人愿意選擇相信假的一方。

二、應對深度偽造風險的措施

面對美國眾議院對深度偽造的種種擔憂，參加聽證會的議員和專家提出了不少可資參考的建議，以遏制深度偽造技術的負面影響，發揮其在生活、科技等方面的積極作用。

1

實施深度偽造的主體限制

為避免深度偽造技術對包括2020年競選在內的民主政治活動造成影響，專家們認為應當對深度偽造的技術的實施主體進行限制。Watts認為，國會應當立法禁止官員和機構創作、傳播合成的不真實信息，“美國政府必須是事實和真理的提供者”；此外，總統候選人和各自的競選團隊需要與社交媒體公司攜手合作，共同為虛假信息制定統一標準。Citron對此表示贊同，提議競選者做出不會在競選活動期間傳播或分享深度偽造的信息的承諾，并應與社交媒體公司建立良好合作關系，以便直接駁斥網上的任何虛假信息。

2

深度偽造的內容審核

Citron指出，并不是所有的深度偽造的虛假內容都要被禁止的，有的內容涉及到諷刺（satire）、或者戲仿（parody），如果深度偽造的內容具備生產性（productive），那么其存在對社會是有益的。因為這類深度偽造內容涉及到美國修正案中所要保護的言論自由，盡管不真實，但對于啟發民智具有重要作用。因此對深度偽造的內容不能“一刀切”打死，不應禁止以娛樂、社交等目的的合成內容（synthetic media），對于此類內容不應給平臺施加“標注為自動合成”等義務；對造成特定傷害（如影響政治、國家安全、公共安全等）的虛假信息才需要規制，需要審核。Watts認為網絡平臺應針對合成內容進行標記和分類，標記的事件和內容類別應跨平臺達成行業共識。當然，標記和分類的前提是平臺知道特定內容是合成內容，平臺沒有義務也沒有能力對用戶上傳內容或第三方內容是否屬于合成內容進行判斷并加以標注。他還提出一些關于分類的建議：如果網絡平臺看到與道德有關的深度偽造內容在短時間內熱度飆升，則應該對其進行標記并進入人工審查通道，降低其熱度排名，阻止其進入其他媒體平臺內傳播；如果網絡平臺看到可能引發暴力事件、危害公共安全、或者與當選官員或機構相關的深度偽造內容，應當對其進行標記并強制下線審核。

議員們還提到了網絡平臺相關虛假違法內容過濾篩選過程中可能存在的偏見問題。因為創建過濾機制的人往往會帶入主觀偏見，因此網絡平臺可能會被某一黨所控制，從而淪為黨派競爭、操縱輿論的工具。Clark因此建議，這個過濾機制應避免政治勢力干預，而應由學術界和企業平臺協同開發，以專業人士意見為準，并以專業技術提供保障，從而更好保持中立性。

3

信息真實性的檢測

在深度偽造技術日益成熟的今天，信息真實性檢測的重要性不言而喻。Clark提出三點建議：其一，技術平臺應大規模開發和共享檢測工具，或者共同合作互換、共享技術信息；其二，增加對檢測技術研發資金的投入，激發技術創新；其三，政府應發展偽造信息危害評估和測量業務，通過研究相關科學文獻和發展知識儲備庫，決定對偽造信息的人應采取的行動。Watts建議政府應當與私人部門合作，開發電子認證簽名工具，標注信息內容的日期和來源。Doermann也提議社交媒體平臺可以使用一定的技術手段將偽造內容和可供驗證的音頻和視頻鏈接在一起，從而決定是否將其從網站中下線，“就像我們處理惡意軟件或者其他網絡問題一樣”。

對于信息真實性檢測時間，Watts主張應及時反應、迅速行動。“鼓勵行業合作打擊極端主義、虛假信息……要迅速反應，以處理這些信息。任何在回應上的滯后都會助長陰謀的實現，你行動越快，公眾了解的機會就會越小，主流媒體和其他官方人士就越方便提供幫助。”

3

網絡平臺的法律責任

對于深度偽造信息的受害者而言，尋求法律救濟的途徑較為局限。Citron指出，法律主要提供兩種途徑保障受害者權益。民事上，受害者可以訴請法院判處行為人構成誹謗、故意實施侵權行為造成精神傷害，但訴訟成本較為高昂且訴訟進程較為緩慢；刑事上，州、聯邦提供兩個層級的法律保護：州層面有一些關于誹謗和假冒行為的刑事立法，聯邦也有相關假冒行為的官方立法。可見，受害者所能主張賠償的對象只有信息捏造者和發布者，網絡平臺雖在信息傳播過程中扮演著十分重要角色，但是卻享有充分廣泛的豁免權，這歸因于美國的《通信規范法》(Communications Decency Act of 1996)中230條，其中規定，網絡服務商絕不可能被看作是第三方提供的內容的出版商（publisher）。這意味著網絡平臺對第三方發布內容沒有審核義務，因此受害者不能向網絡平臺主張權利。

Citron還說，1996年的法案并不是因為考慮到網絡平臺不能實施過濾行為而免除該義務，其旨在鼓勵行業自律。但96年的“國會和聯邦貿易委員會難以超越時代的局限，考慮到現在我們面臨的處境”。她認為應該為網絡平臺的豁免權利設定一定的條件，比如可以對230條作一些靈活修改，將“任何在線服務平臺都不應被視為第三方內容的代言人（speaker）和出版商”修改為“任何從事合理內容審核實踐的在線服務平臺都不應被視為第三方內容的代言人或出版商”，以更好地約束網絡服務平臺，保障受害者權利。議員Welch提問可否直接采納1996年前的立法，直接將網絡平臺服務者視為出版商，從而對其苛以更高的審查要求。Clark回應，考慮到網絡服務平臺控制言論十分困難，且相關的文化習慣已經形成，所以不宜作此修改。

5

對外國人實施深度偽造行為的制裁

針對外國人利用深度偽造技術危害美國國家安全和人民利益的行為，Citron提出兩點法律上的建議：一是考慮利用美國程序法中的長臂管轄原則。依據“最低限度接觸標準”將損害美國國家利益的行為納入美國司法機關管轄范圍；二是對于身處域外的違法行為人，美國還可以依據與他國的引渡條款，請求相關國家移交本國進行審判或處罰。Watts以美國對俄羅斯GRU情報機構的制裁為例，在發現俄羅斯利用網絡攻擊干預美國大選后，美國采取了一系列強制措施，包括制裁俄羅斯情報機構GRU、驅逐多名在美情報人員、關閉俄羅斯在美辦公場所等。對于身處引渡難度較大的國家的罪犯，Watts表示要建立威懾力，“要讓那些網絡黑客知道我們會以較為激進的方式作出回應”。

6

批判性思維的教育

從社會心理學角度看，我們接觸到符合我們世界觀的信息越多，我們越傾向認為該信息是正確的，Citron指出。一旦深度偽造的信息內容印證了大眾的認證偏見，此虛假信息就很難被駁斥和證實。因此對公眾的批判性思維的教育尤其重要。對于深度偽造的信息，要教育公眾要持批判性眼光判斷信息真偽，不要輕易相信“眼見為實”；要教育社會公眾在進行信息檢索時，主流輿論并不一定代表著正確，要多對其提出質疑；同時，也要告知公眾深度偽造技術可能被騙子加以利用成為洗清嫌疑的借口，因此即使眼見“為虛”亦可能為實。Dormann也表示，不要輕易相信來源單一的信息，要充分利用檢索工具，進行多方印證才可以獲得較為真實可靠的信息內容。

三、深度偽造技術的未來

既然深度偽造技術可能給個人、社會和國家帶來種種威脅，那這項技術是否應被國家嚴格管控而不應作為面向社會開放的資源？Doermann表示，當下我們總會接觸到這個技術。目前深度偽造技術并不限于在AI實驗室里運作，任何一個擁有一部性能較好電腦的高中生都可以在免費開放的互聯網中接觸到該技術、并能將其下載到自己電腦中運行。“該技術實際上與深度學習運用的技術一樣，應該向社會開放。”這意味著在面對深度偽造帶來的潛在風險時，不是“一刀切”地禁止深度偽造技術的應用，而是有效管控其風險，尤其是對可能造成特定傷害的深度偽造的虛假信息進行規制，同時不妨礙其在教育、藝術、社交、虛擬現實、個人發展、醫療等等領域的應用。

深度偽造技術是AI發展到一定階段的產物，技術本是中立的。技術并不導致社會矛盾，只是技術的出現加劇了這種社會矛盾。所以我們不應該因此而禁止深度偽造技術。與此相比，更重要的是提高針對深度偽造的檢測技術、完善相關認證機制。專家們承認，深度偽造技術正變得越來越復雜，在互聯網上也越來越容易被大眾接觸，但與此同時也有越來越多人在學習、研發相關的檢測技術，掌握判斷真偽的技能。但是，隨著深度偽造技術越來越成熟，相應的檢測深度偽造的技術也會越來越先進——這將是一場永無休止的競賽，Doermann將其比喻為“貓抓老鼠的游戲”。

聽證會的主席Adam Schiff說：“我不知道我們能否為此做好充分準備，但是，我們還可以做更多的工作，確定敵人的計劃和意圖，盡早找出并揭露它，告知公眾他們需要關注什么，應當做什么，而不僅僅忽略他們所看到的一切。”雖然沒有一招制勝的方法，但阻止深度偽造負面影響蔓延的方法并不有限，Citron說，“法律、市場和社會恢復力（society resilience）的結合是解決問題的必要條件。”

整體而言，美國立法者當前對深度偽造的擔憂主要集中于國家安全、公共安全、政治選舉等方面，同時承認深度偽造等合成媒體內容在娛樂、藝術表達、社交等方面具有積極意義，所以不應對深度偽造內容“一刀切”禁止，一竿子打死。考慮到《通信規范法》和保護言論自由以及深度偽造檢測識別技術的發展狀況，美國立法者并沒有要求平臺對用戶上傳、發布的內容進行是否屬于深度偽造內容的檢索識別并予以標注。由于生成對抗網絡（GAN）等深度學習技術的持續發展，深度偽造技術還在快速進化，其檢測識別難度很大，當前的技術發展狀況還無法對深度偽造內容進行準確識別，雖然檢測技術也一直在發展。例如，瑞士科學家在一篇論文中就首次對人臉識別方法檢測Deepfake的效果進行了較為全面的測評，嘗試用最前沿的人臉識別系統去識別假視頻，結果錯誤率高達95%。所以當前如果要求平臺對深度偽造等合成媒體內容進行識別和標注，在技術上幾乎是不可能實現的。

因此，正如Citron所言，對深度偽造的內容不能“一刀切”打死，很多深度偽造的合成媒體內容具有存在的正當性，而對影響國家安全、公共安全、民主政治的虛假信息才需要加強監管和規制。此外，涉及刑事犯罪和一般網絡侵權的深度偽造適用不同的規制，監管應區別對待，美國相關立法目前主要從刑事犯罪角度對深度偽造予以規制。