美國一名應用程式開發者發明出AI「脫衣」應用程式DeepNude,只要用戶點擊按鈕,30秒內,AI程式便能運用內存1萬張女性裸照,將用戶上傳的女性穿衣照片生成為「虛擬裸照」。官網推出後造成轟動,也引發大量侵犯隱私的批評,應用程式在推出短短6日後,團隊於28日宣布關閉網站並停止運作。
「虛擬裸照」在網路上瘋傳,看起來「就像真的」
此網站23日上線,主打男性市場,AI只會生成女性裸照,就算用戶試著將男性穿衣服照片上傳,AI也會把照片中的男性修成女性胴體的模樣。
在網站消失之前,恐怕已有無數女性成為「虛擬裸照」的犧牲者,它的免費試用版本能提供用戶有水印的虛擬裸照,而付費版只要50美元(約新台幣1550元)即可獲得,可怕的是,用戶能立刻點擊分享這些照片,即使它是「虛擬」的,但也構成對女性隱私的侵犯,畢竟它看起來「就像真的」。
Controversial deepfake app DeepNude shuts down hours after being exposed https://t.co/YOF5P9FI4j pic.twitter.com/ecrCLNYtl0
— The Verge (@verge) 2019年6月27日
關站聲明:流量暴增證明「需求高」,但不想靠這方式賺錢
美國新聞網站《Vice》訪問這位匿名的應用程式開發者,對方表示,他以1萬張女性裸體照片作為素材庫,透過Deepfake的換臉技術,將DeepNude的AI訓練成能夠自動生成裸照。《Vice》26日刊出此篇報導的1小時後,DeepNude網站立刻被大量網友塞爆,顯示「需求量」有多麼驚人,DeepNude的推特帳號公告指出,伺服器因為預料之外的高流量而停擺。
同時,負面批評也排山倒海而來,這似乎促使應用程式團隊人員「良心發現」。DeepNude的推特帳號27日下午發文宣告關閉網站,「我們幾個月前創造這程式作為給使用者的娛樂,原以為只會販賣些許數量,並且使用者能夠克制地使用…從沒想過它會大紅,導致我們無法控制流量,我們確實太低估需求量了」。
— deepnudeapp (@deepnudeapp) 2019年6月27日
推文繼續指出,「雖然照片有水印,但如果50萬人使用這程式,那麼有人拿去做壞用途的機率也會上升,我們不想要靠這種方式賺錢」,最終結尾表示「這世界還沒有為DeepNude做好準備。」
目前DeepNude背後團隊的真實身分仍未曝光,該網站透過網域註冊公司「GoDaddy」,創建屬於自己的網域,「GoDaddy」指出,與他們接洽的公司位於愛沙尼亞,並自稱為「DeepInstruction」,那是一家AI影像製作公司,不過目前官網也顯示「無法尋得」(not found)。
「虛擬裸照」輕易利用科技來羞辱女性
美國有線電視新聞網(CNN)批評指出,使用這款應用程式的用戶可能把「虛擬裸照」當作「解決生理需求」的慰藉,這意味隨著科技發展,有心人士越可以輕易利用科技來羞辱、貶低女性,而DeepNude關站無法阻止「虛擬裸照」在網路上瘋傳,也無法避免再有人發明類似程式。
波士頓大學(Boston University)法律系教授西倫(Danielle Citron)表示,不過由於「虛擬裸照」並不是真正的裸照,這類侵犯隱私的行為目前「無法可管」。然而對照片上的女性來說,不論真假都會造成困擾,西倫指出,「影響是一樣的,妳會覺得有1000隻眼睛在偷窺妳的身體。」