中國換臉手機應用程式「ZAO」8月30日上線,這款應用程式標榜透過人工智慧讓用戶將自己的臉部換到不同電影與影集的角色臉上,效果逼真自然,於是一夕爆紅。然而,這款App因為存在侵犯隱私的疑慮,加上涉及過度要求授權, 在上線隔天緊急修改用戶協議,但微信仍在1日封鎖ZAO的分享連結。
「ZAO」是由中國交友APP公司陌陌(Momo)研發,這款手機應用程式的宣傳口號是「僅需一張照片,出演天下好戲」,推出後立刻在微信朋友圈洗版,用戶可把自己的臉「移植」到不同電影與劇集的角色上,還可以把自己「主演」的多個片段剪接到一起。ZAO 在8月30日上線當天,就在中國版的蘋果手機App Store免費App排名第二。
WeChat restricts controversial video face-swapping app Zao, citing “security risks” https://t.co/iBJqpEcLN9 by @catherineshu pic.twitter.com/BY1z6l8zhV
— TechCrunch (@TechCrunch) September 3, 2019
然而,ZAO原本的用戶協議稱,如果用戶使用這款App「換臉」,代表「您同意或確保肖像權利人同意授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利」。這個協議引爆隱私疑慮與爭議,截至9月1日晚間,ZAO在蘋果App Store的評分立刻由4.6分降至1.9分。
In less than a minute I became @LeoDiCaprio . #ZAO is one of the most accurate face lifting app. Also, bye bye privacy. pic.twitter.com/BRRl1G4T69
— Prakhar 帕卡 坎杜迦 (@prakharkhanduja) September 3, 2019
中國網友表示,有臉部照片的話,透過技術合成,犯罪分子就能和你的家人通話,這樣電信詐騙的成功機會將更高。其他中國網友也指出,中國許多城市都有「刷臉支付」,這款App可能導致人臉被不法分子盜用的風險,也有微博網友說,如果被人盜用於支付寶刷臉付款,那也是很大的風險。
引爆爭議後,ZAO在8月31日晚間修改了用戶協議,表示除非為了改善ZAO提供的服務或另行取得用戶的再次同意,否則不會以任何其他形式或目的使用上述內容。此外,用戶可以依據ZAO平台規則撤回或刪除上述內容,在用戶撤回或刪除上述內容後,ZAO將依據相關法律法規的規定在服務器上刪除,原有的上傳肖像權可被ZAO「完全免費、不可撤銷、永久、可轉授權和可再許可的權利」等用詞也被刪除。
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
— Allan Xia (@AllanXia) September 1, 2019
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) pic.twitter.com/1RpnJJ3wgT
9月1日,ZAO的微信分享連結失效,頁面顯示「網頁存在安全風險,被多人投訴,為維護綠色上網環境,已停止訪問」,目前ZAO也已取消分享到微信的按鈕。