台灣人工智慧實驗室於17日舉辦「台灣網路訊息操作觀察報告與討論會」,向外界闡述Infodemic資訊平台所觀察到的線上社群訊息操作現象。
該實驗室的創辦人杜奕瑾指出,網路上常見的發文帳號未必是真實、正常使用的帳號,有許多「操作帳號」(troll account)正散布誤導或偽造的訊息,同時有效地影響著大眾的觀點和情緒。估計台灣已有約300萬網路用戶受到了這種影響。
台灣人工智慧實驗室(Taiwan AI Labs)利用infodemic軟體,從台灣主流媒體,以及臉書(Facebook)、YouTube、TikTok、PTT等社群媒體蒐集資料。透過分析每個帳號的行為模式,辨識出哪些屬於「操作帳號」──這些帳號可能表現出「跟隨指令,一個口令一個動作」的特徵,或是由程式自動生成誤導消息,又或者是受公關公司操控。
杜奕瑾指出,這次選舉中需要特別注意的是,生成式人工智慧所產生的誤導性敘事、假澄清、以及抹黑式深度偽造(DeepFake)影片等,對於澄清真相和打擊假消息帶來了「地獄級」的挑戰。此外,「短影音」的大量流行也對輿論產生了相當大的影響。
「操作帳號」做了什麼?操弄疑美論、缺蛋、違建案
台灣人工智慧實驗室在去年1月至今的監測中,分析了超過4506萬次的社群平台互動。他們發現其中有73萬1383次的互動內容是由「操作帳號」操控的,參與的「操作帳號」數量達1萬4354個,形成了4萬8411個輿論戰場,被分享與討論的新聞達27萬9746篇,其中有8038則報導與境外官方媒體有關。
杜奕瑾指出,去年1至4月,蔡英文總統在出訪和過境美國期間,操作疑美論的聲量相當高。蔡總統的臉書粉專下方,每3條訊息中就有1條是由「操作帳號」發佈。自5月開始,「操作帳號」開始大規模活動,似乎是因為相關經費的注入,同時主要散布疑美相關議題。
7月,《聯合報》一則報導引起廣泛的訊息操作,該報導引述所謂的「南海工作會議紀錄」,聲稱「美國可能要求台灣設立P4實驗室以開發生物戰劑」。「美要台設P4實驗室」報導已受到總統府、行政院、國防部發文澄清,美國國務院及美國在台協會也發表聲明駁斥。
在8月之後,「操作帳號」轉為主打涉及人民最關切的「居住正義」和「違建」議題。而在9月至12月期間,訊息操作內容包括缺蛋、藍白合等。今年1月以來,大量的訊息操作則涉及日本石川地震與台灣的救援、中國發射衛星以及國防部的烏龍等相關議題。