2017 年后,偽造逼真圖像的 Deepfake 技術利用其將女性圖片嫁接至色情圖像內容引起很非議,用它惡意偽造的圖像開始大規模在互聯網上流傳,也給人們辨別圖像真假帶來了困擾。
如果說 Deepfake 對非技術人員有使用門檻的話,現在,一種比 Deepfake 更快、更易用的“變體”應用出現了,它叫 DeepNude。
據 Motherboard 報道,DeepNude 軟件使用神經網絡技術能將女性圖片中的衣物消除,讓照片看上去就像是真實裸照,尤其裸露皮膚面積越大,處理效果越好。其背后的團隊已經發布了 Windows 和 Linux 系統版本。
DeepNude 處理照片的范圍目前僅限于女性照片,這當然跟訓練數據集有關,其創建者解釋是因為***女性的圖像更容易在網上找到,同時他也希望開發一個男性版本軟件。
不過很快,在媒體報道后,迫于輿論壓力,使用 AI 創建女性假裸照的 DeepNude 就被其團隊關閉,其官網已無法打開。DeepNude 團隊在其推文中表示他們大大低估了對該項目的受歡迎程度以及人們濫用它的可能性。
DeepNude 將不再出售,其他版本也將不會發布。該團隊還警告網友不要在線共享該軟件,這將違反該應用的服務條款。但他們同時承認,“(該應用)肯定會有一些副本”發布出來。
比 Deepfake 更快、更易用
據 Motherboard 報道,他們曾用體育畫報上的幾十張高分辨率的圖片進行測試,AI 算法準確地填充了衣服下的細節,獲得了最令人信服的結果。
在一封電子郵件中,DeepNude 創建者告訴 Motherboard,該軟件基于加州大學伯克利分校的研究人員于 2017 年開發的 pix2pix 開源算法,它使用的是生成對抗網絡(GANs)。該算法類似于深度視頻中使用的算法,通過在超過 10,000 張女性***照片上不斷訓練以改進效果。
目前,DeepNude 只需點擊一下即可在 30 秒內生成一張逼真的偽造裸照,但未來還可以提速。相比之下,Deepfake 技術雖然在快速升級,但目前也至少需要數小時來生成可信的人臉偽造照片,而使用 Photoshop 軟件來將一張圖片 P 成逼真裸照也需要好幾分鐘。
DeepNude 應用的免費版本會在生成的裸照上放一個大水印以提醒人們圖片是假的,而付費版本只放了一個較小的水印,這可以很容易被裁減掉。該應用已經發售了幾個月,DeepNude 團隊表示,“老實說,這個應用并不是那么好用”。
但它運行良好,已經引起了人們廣泛關注,DeepNude 能夠很快偽造裸照并且可供任何人使用。
人們未對 DeepNude 的出現做好準備?
DeepNude 背后的創建者告訴 Motherboard,做該軟件是出于對技術的熱愛和好奇心,他并不是一個偷窺者,并指出 DeepNude 不會自動上傳圖像,只處理生成用戶想做的圖片。
與 Deepfake 軟件所造成的影響一樣,其最大的負面影響是這些照片可能會被用來騷擾女性,比如將女明星偽造成色情影片的女主角。
創建者也告訴 The Verge 稱,即便他不先做的話,別人也會很快制作像 DeepNude 這樣的軟件,因為技術門檻并不高。如果發現該軟件被濫用,他的團隊肯定會放棄它。DeepNude 很快關閉也是因為其團隊認為人們并沒有為它的出現做好準備,即使未來人們會將該軟件使用在正途上。
很多人對 DeepNude 團隊的言論表達進行了批評。有人在評價 DeepNude 時表示,這非常可怕,侵犯了人們的隱私,如果任何人都可能成為這項技術的受害者,那這項技術不應該向公眾開放。
還有網友評論稱,正常人很難相信 DeepNude 團隊居然驚訝于人們會對該軟件有狂熱使用需求,即便該軟件已經撤下了,但相信很快就有它的復制品出現。
無論如何,類似的深度偽造圖像只會更快速易于制作,并且難以檢測,但如何防止濫用人們的圖像,目前鮮有良好的應對方法。
-
神經網絡
+關注
關注
42文章
4773瀏覽量
100877 -
AI
+關注
關注
87文章
31042瀏覽量
269391
原文標題:【每日峰報】6月27日:富士康大規模裁員,撤離大陸?!AI底線究竟何在?繼換臉后這次學會了脫女性衣服...
文章出處:【微信號:robotop2025,微信公眾號:每日機器人峰匯】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論