廣被詬病的用戶協(xié)議、合成視頻存在的安全問(wèn)題……ZAO從爆紅到質(zhì)疑纏身，只用了不到24小時(shí)。從人臉合成技術(shù)誕生的那一天開始，人們就沒(méi)有停止過(guò)對(duì)技術(shù)被人利用作惡的憂慮。

此次對(duì)ZAO的擔(dān)憂，也折射出潛藏在每個(gè)人內(nèi)心的那個(gè)疑問(wèn)：如果人工智能越來(lái)越無(wú)所不能，人類該如何自處？在新一輪的產(chǎn)業(yè)變革中，人類的隱私和其他權(quán)益究竟如何保護(hù)？

從一鍵換臉到深裸，科技倫理屢受沖擊

曾經(jīng)刷屏的類似應(yīng)用軟件不止ZAO一款，還有臉萌、足記、天天P圖……與ZAO一樣，這些應(yīng)用大多與圖像相關(guān)，許多也需要用戶上傳個(gè)人照片，但是從未引起如此大規(guī)模的爭(zhēng)議。

據(jù)了解，能夠合成視頻是ZAO引爆公眾討論的關(guān)鍵。在此之前，圖像App的玩法都是基于靜態(tài)的照片，ZAO則第一次將視頻換臉技術(shù)帶到了普通大眾的手機(jī)里。

中國(guó)科學(xué)院神經(jīng)科學(xué)博士劉耀文向《法制日?qǐng)?bào)》記者介紹說(shuō)，人工智能相關(guān)應(yīng)用在過(guò)去幾年迅猛增長(zhǎng)，其中人臉識(shí)別是應(yīng)用范圍比較廣的技術(shù)之一。如今在金融、安防、考勤等領(lǐng)域，人臉識(shí)別已被大量應(yīng)用。比如，當(dāng)用戶向互聯(lián)網(wǎng)金融公司借貸時(shí)，平臺(tái)首先需要做的是“驗(yàn)證你是你”，由于與錢財(cái)直接相關(guān)，攔截偽造的人臉攻擊就變得至為重要。

因此，這次刷屏的合成視頻便觸到了許多人的心理底線：當(dāng)視頻也可以被偽造，還有什么可以確保真實(shí)？

其實(shí)，換臉技術(shù)本身并不新奇。2016年上映的《星球大戰(zhàn)外傳：俠盜一號(hào)》還原了1977年《星球大戰(zhàn)4》中總督塔金的角色，但其扮演者彼得·庫(kù)欣早在22年前就已去世，特效團(tuán)隊(duì)為此找來(lái)一位長(zhǎng)相酷似彼得的演員進(jìn)行面部表情捕捉，然后用計(jì)算機(jī)動(dòng)畫技術(shù)將塔金復(fù)活。不過(guò)，出品方盧克斯影業(yè)和迪士尼均表示，在制作《星球大戰(zhàn)外傳》時(shí)已經(jīng)取得了彼得家人和產(chǎn)權(quán)繼承人的同意。

將換臉推到風(fēng)口浪尖的是一系列融合了AI技術(shù)的“假視頻”。

2017年12月，一個(gè)名為“深度偽造”的用戶在美國(guó)某論壇上發(fā)布了多段***。他讓電腦軟件學(xué)習(xí)好萊塢女星的圖像資料，然后把女星的面部移植到色情片女主角臉上，引發(fā)大量討論和抨擊，最后以賬號(hào)被封告終。

不過(guò)，AI換臉并未消失。用戶“深度偽造”隨后直接開源了項(xiàng)目代碼，更多效仿者隨之而來(lái)，為了紀(jì)念他，便用他的名字代稱“AI換臉”技術(shù)。

據(jù)媒體報(bào)道，今年6月13日，美國(guó)眾議院情報(bào)委員會(huì)召開關(guān)于人工智能深度偽造的聽證會(huì)，公開談?wù)摿松疃葌卧旒夹g(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。美國(guó)外交政策研究所研究員克林特·瓦茨認(rèn)為，深度偽造技術(shù)對(duì)美國(guó)2020年大選具有潛在威脅，若放任偽造視頻擴(kuò)散，則會(huì)對(duì)美國(guó)民主選舉產(chǎn)生不良影響，挫傷選民的積極性。

就在聽證會(huì)結(jié)束后不久，一款名為DeepNude（深裸）的App再次把AI技術(shù)應(yīng)用中的法律倫理問(wèn)題推到臺(tái)前：只要給它一張人像照片，等待30秒，就能得到一張裸照。由于風(fēng)險(xiǎn)超出可控范圍，研發(fā)團(tuán)隊(duì)在產(chǎn)品上線幾天后便匆忙將這款產(chǎn)品下架。

美國(guó)斯坦福大學(xué)計(jì)算機(jī)科學(xué)教授、“百度大腦”原負(fù)責(zé)人吳恩達(dá)也公開批判，稱“DeepNude是AI技術(shù)最糟糕的應(yīng)用之一”，AI技術(shù)的超級(jí)力量應(yīng)該被用到推動(dòng)世界發(fā)展的項(xiàng)目中。

在業(yè)內(nèi)人士看來(lái)，AI換臉技術(shù)是成熟的，之所以沒(méi)有被推廣，就是因?yàn)檫€有很多法律、倫理問(wèn)題沒(méi)有討論清楚。

各方合作共同治理，健全法律防止失范

上個(gè)月，央行科技司司長(zhǎng)李偉就曾警示AI人臉識(shí)別技術(shù)可能帶來(lái)的新風(fēng)險(xiǎn)，他說(shuō)，“人臉支付的時(shí)候，一刷臉錢就沒(méi)了，很可怕。銀行卡可以揣在兜里，臉是平常露在外面，識(shí)別出來(lái)非常容易，現(xiàn)在有的技術(shù)可以在3公里之外識(shí)別你的人臉。”這句話道出了AI應(yīng)用對(duì)公共安全帶來(lái)的隱憂。

此次，換臉軟件ZAO將人工智能時(shí)代的隱私問(wèn)題暴露得更加徹底，甚至有評(píng)論直言，當(dāng)人類制造的技術(shù)越來(lái)越強(qiáng)大，甚至無(wú)所不能，人類本身的領(lǐng)地和獨(dú)特性如何維護(hù)便成為值得思考的問(wèn)題。如今，人工智能的發(fā)展?jié)u成加速之勢(shì)，這個(gè)情況甚至超出了不少人最樂(lè)觀的估計(jì)。

“對(duì)于打開了潘多拉魔盒的看法我是認(rèn)可的，諸如ZAO此類的換臉軟件，國(guó)外幾年前就出現(xiàn)了，之后便被禁止。這個(gè)實(shí)際就是機(jī)器學(xué)習(xí)算法，對(duì)運(yùn)行系統(tǒng)等各方面要求都挺高的。類似換臉應(yīng)用出現(xiàn)是將技術(shù)平民化，使用門檻降低，讓普通人都能使用，但可能會(huì)出現(xiàn)很嚴(yán)重的侵權(quán)行為。”劉耀文說(shuō)。

因此，在受訪的業(yè)內(nèi)人士看來(lái)，對(duì)于AI應(yīng)用場(chǎng)景安全的討論，不能只局限于民事侵權(quán)。

在技術(shù)至上派的人看來(lái)，如果人工智能技術(shù)能夠持續(xù)進(jìn)步并廣泛應(yīng)用，特別是人類可以制造出真正能推理和解決問(wèn)題、有知覺甚至自我意識(shí)的強(qiáng)人工智能機(jī)器的話，將給人類社會(huì)帶來(lái)巨大的好處。

從現(xiàn)實(shí)情況看，人工智能技術(shù)的發(fā)展確實(shí)也已經(jīng)為人類帶來(lái)實(shí)際回報(bào)。但得到這些好處并非沒(méi)有代價(jià)，ZAO引發(fā)的爭(zhēng)論只是人工智能技術(shù)B面的一小部分，面對(duì)這股強(qiáng)大且未知的力量，圍繞人工智能倫理的探討從未停歇。

“更積極的討論還得基于AI技術(shù)的倫理，對(duì)其研究開發(fā)與應(yīng)用行為進(jìn)行規(guī)范，通過(guò)健全法律法規(guī)、健全必要的監(jiān)管，實(shí)行前置的管理，防止失范失控。”采訪中，中國(guó)傳媒大學(xué)政法學(xué)院法律系副主任鄭寧說(shuō)，比如，AI應(yīng)用技術(shù)應(yīng)當(dāng)符合正當(dāng)有益的原則，應(yīng)用則需要滿足起碼的安全保護(hù)、隱私保護(hù)等條件，形成健全清晰的規(guī)則。對(duì)于AI換臉來(lái)說(shuō)，如果有前置規(guī)則的約束，就可能屬于禁止應(yīng)用之列。由此可見，對(duì)于AI技術(shù)的發(fā)展，法規(guī)、規(guī)則的研究也應(yīng)跟上步伐，不斷扎密制度的籠子。

“目前ZAO所展現(xiàn)出來(lái)的問(wèn)題，以及類似軟件可能產(chǎn)生的潛在危險(xiǎn)和不安全性，也是人們必然要面臨的挑戰(zhàn)。人工智能為社會(huì)提供產(chǎn)品和便利的同時(shí)，如何監(jiān)管才是最現(xiàn)實(shí)和最嚴(yán)峻的問(wèn)題。”鄭寧說(shuō)，我們身處風(fēng)險(xiǎn)社會(huì)，任何新技術(shù)都是雙刃劍，在給人們帶來(lái)便利的同時(shí)，也會(huì)產(chǎn)生一定的風(fēng)險(xiǎn)，因此需要加強(qiáng)政府監(jiān)管、企業(yè)自律、行業(yè)自治等，實(shí)現(xiàn)各方合作治理，“AI技術(shù)的監(jiān)管難點(diǎn)包括監(jiān)管技術(shù)較為滯后、監(jiān)管法律缺位，同時(shí)還要注意到，AI涉及研發(fā)者、使用者等多個(gè)主體，因此法律責(zé)任主體的界定比較困難”。

不過(guò)，也有專家認(rèn)為，對(duì)于各種AI軟件，一種處理方法是，如果預(yù)感和預(yù)測(cè)到將對(duì)社會(huì)有重大威脅，就應(yīng)全面禁止。還有一種方法是，現(xiàn)在還沒(méi)出問(wèn)題就可以放行，但絕非放任，等出了問(wèn)題再來(lái)解決。

“兩種方式做起來(lái)的難度是比較大的，主要的難度就是怎樣平衡監(jiān)管的需求和新技術(shù)、新應(yīng)用發(fā)展的需求。”王四新說(shuō)，監(jiān)管得太嚴(yán)，肯定會(huì)傷害這種新技術(shù)、新應(yīng)用，也會(huì)增加企業(yè)的成本負(fù)擔(dān)；如果不監(jiān)管，那一旦有了不可預(yù)測(cè)的情況發(fā)生，政府就會(huì)很被動(dòng)，對(duì)個(gè)體造成的傷害可能也無(wú)法挽回。

對(duì)此，鄭寧的看法是，對(duì)于新技術(shù)要保持一定的寬容度，不能出現(xiàn)問(wèn)題就一棍子打死，“全面禁止不是市場(chǎng)經(jīng)濟(jì)的做法，有些問(wèn)題要讓市場(chǎng)和社會(huì)去解決，必要時(shí)有關(guān)部門再干預(yù)”。