上週六,南韓大學生熙珍(化名)在通訊軟體Telegram上收到一則匿名訊息:「你的照片和個資洩露了,我們來討論一下。」
她點進聊天室,隨即收到兩張照片。一張是她多年前的舊照,另一張則是用這張照片偽造的暴露色情照。熙珍驚慌不已,雖然她沒有回覆,但對方仍不停發來更多圖片,這些都是女性進行性行為的照片,臉全都被換成了熙珍的樣子。
繼2018至2020年的「N號房」性剝削事件以後,南韓近期再度爆出駭人數位性犯罪,多個Telegram聊天群組與頻道的數十萬名用戶,利用深度偽造(deep fake)技術製作、散布非法圖像。
這些圖像多半由AI生成,嫁接虛假的裸體圖和真實存在的女性臉部照片,受害者遍及南韓社會,藝人、軍人、學生、未成年人。甚至,以女性親屬為對象的「家庭房」、「近親房」也相繼出現。
熙珍受英國廣播公司(BBC)訪問時說:「我嚇呆了,我覺得好無助。」
Inside the deepfake porn crisis engulfing Korean schools https://t.co/UZJnlEjeba
— BBC News (World) (@BBCWorld) September 3, 2024
熙珍並不是唯一受害者。8月底《韓民族日報》率先報導警方正在調查兩所知名大學的深偽犯罪,文中主張一定還有更多案例。
記者高娜琳(Go Na-rin,音譯)發現,多個Telegram群組的成員交換女性熟人的照片,並使用AI生成深偽色情內容,例如在一個成員多達22.7萬的Telegram頻道,加害者只需上傳女性照片並付費,便能在5秒內獲得裸體合成圖。
這些犯罪群組的目標已從大學生擴展到高中生,甚至國中生。成員們會上傳身邊女性的照片,並公開她們的姓名、年齡、學系等個人資訊。如果某個群組針對特定受害者製作大量色情內容,該群組就會被視為那名受害者的「專屬」群組,並被冠以「羞辱房」、「熟人房」等名稱,且設有嚴格的加入門檻。
系統化、有條不紊的犯罪程序
Telegram採加密對話,用戶通常是匿名的,而且私人群組可以快速刪除資訊,不留痕跡,這些特質讓Telegram成為理想的犯罪溫床。
每個深偽犯罪群組設置的加入門檻不一,有些要求成員提供女性的姓名、年齡、居住地區等資料,並上傳至少4張同一人的照片。高娜琳表示:「犯罪程序系統化、有條不紊的程度讓我震驚。」最讓她感到驚恐的案例,是一個以未成年學生為對象的群組,成員竟有超過2000人。
South Korea battles surge of deepfake pornography after thousands found to be spreading images https://t.co/pVIl4ZOO1E
— The Guardian (@guardian) August 28, 2024
高娜琳的報導震驚全國,女性團體也開始追蹤蛛絲馬跡。到8月為止,全韓有超過500所各級學校被列為「受深偽犯罪威脅的學校」。實際受害人數仍有待調查,許多受害者未滿16歲(合法性交年齡),而且許多加害者也是未成年人。
有鑑於深偽犯罪的規模駭人,紛紛有南韓女性移除社群帳號上的照片,或乾脆停用帳號,唯恐成為下一個受害者。