大陸抖音網紅「Caro賴賴_」(以下簡稱賴賴)經常分享日常和對感情觀的看法,精緻外型搭配充滿真心的內容與言論,深受粉絲喜愛,抖音平台上擁有434萬追蹤數,微博也有148萬人追蹤。不料,賴賴日前竟被告知「私密片」疑遭外洩,而她隨後也震怒地發文曝光始末,引起全網熱議。
賴賴26日在微博上發文,透露自己大約在半年前,就看到不少網友在她的影片下留言稱「看過她的片」,但本著「清者自清」的想法,賴賴一直都不予理會,沒想到前幾天好友私訊她幾張截圖和影片,還憂心問道:「這不是你吧?」賴賴點進去一看,才發現影片裡的女生「正做著一些難以描述的動作」,「我看著影片裡那張跟我一模一樣的臉,憤怒地說不出話來!」
賴賴意識到,自己的臉慘遭有心人士以AI盜用,循線追查後,她發現是有心人士在海外社群平台上冒用她的名義註冊假帳號,一開始還會搬運她的日常影片,直到累積足夠追蹤人數後,就會以會員訂閱的方式,販賣盜用賴賴臉龐的色情影片。
更離譜的是,賴賴發現AI盜臉製作色情影片的不法行業,甚至已形成了一條完整的產業鏈,而且除了她和其他網紅,就連藝人、長得漂亮的一般民眾也不放過。不僅如此,賴賴還找到明碼標價網紅色情影片的名單,只要花費200元人民幣(約890元新台幣)加入群組,就可以享受半價購買假臉色情影片,甚至還能要求「私人訂製」。
所謂的「私人訂製」,就是有心人士在付費後提供其他女子的生活照,犯罪團夥就會透過AI合成的方式替其製造假的私密片,「那些收到影片的人除了滿足自己齷齪的慾望外,還可以將這些非法內容在網上傳播,上演一出造謠狂歡。」
事件發生後,賴賴試圖舉報相關假帳號和造謠內容,然而在付費平台上提供色情影片並不違法,就算想透過法律途徑求助,又得知這些假帳號都是難以追蹤的海外IP,再加上假色情影片經多次轉手,難以找到一開始的源頭。
賴賴震怒直呼,造謠成本如今竟已低得難以想象,認為自己還算小有名氣的網紅,因此被造謠了發聲還會引得關注,「如果是普通的女生被造謠了她們又能怎麼辦?近期類似事件頻發,地鐵女生被『一鍵脫衣』,利用AI模型生成女藝人虛假圖片等等,我意識到我有必要站出來要讓大家關注這件事情,如果有人看到這樣的視頻或圖片,我也希望不要傳播和攻擊!」