最近幾週，中國加大了對台灣1月13日總統和立法院選舉的影響力度，一些專家指出了生成式人工智慧帶來的假訊息活動的危險。這種人工智可以產生文字和其他類型的內容。
台灣人工智慧實驗室（Taiwan AI Labs）創辦人杜奕瑾（Ethan Tu）的公司使用生成式人工智慧來識別和宣傳社群媒體資訊操縱趨勢。他在周二（1月5日）接受美國之音（VOA）視訊採訪時表示，從長遠來看，台灣必須加大力度，打擊人工智慧生成的即影響台灣人態度認知戰。
以下是這段訪談：
VOA：中國透過認知戰幹預選舉對這次台灣選舉的影響有多嚴重？
杜奕瑾：在今年的台灣大選中，網路資訊操縱越來越嚴重，特定行為體使用的技巧也越來越圓熟。過去，很容易識別出發布大量類似評論的虛假中國帳戶，但在這次選舉中，由於生成式人工智慧的出現，這些帳戶開始區分自己的角色。他們發表的評論正變得越來越多樣化。
確定所有這些網路水軍帳戶都在說同樣的話變得更難了。生成式人工智慧正在幫助擴大資訊操縱的影響。台灣人工智慧實驗室的團隊正在觀察與選舉相關的新聞和線上用戶對話，我們可以看到這些網路水軍帳戶正在扮演什麼角色。
例如，在今年的選舉中，YouTube和TikTok上的短影片扮演著非常重要的角色。雖然這些影片有不同的劇本和演員，但它們談論的是同一個話題。根據這些短視頻，我們大概可以確定這些YouTuber製作的內容與中國官方媒體宣傳的敘事一致。
這些YouTube頻道的擁有者會假裝中立，但當他們談論影片中的事情時，他們會混入反映中國政府利益的訊息。這些短影片中的訊息往往是親中國的，同時貶低日本和美國。他們把中國描繪成一個和平締造者，同時將美國描述為將其他國家拖入戰爭。
我們在臉書（Facebook）上看到的另一種類型的帳戶負責將這些影片傳播到有影響力的社群。例如，兩個特定的帳號會在三位總統候選人的臉書帳號下發表與中國官方媒體的敘述一致的評論。
這兩個帳號除了積極用中文國語評論台灣大選相關議題外，也積極用英語傳播訊息，旨在增加大眾對美國拜登政府的不信任。
在處理由生成式人工智慧助力的資訊操縱時，當你試圖揭穿謠言時，生成式人工智慧可能會使用當局試圖放大的正確資訊來製造更多謠言。台灣目前用於打擊認知戰的事實查核機制，已被證明在這種特殊情況下是無效的。
應對生成式人工智慧造成的虛假資訊活動的最佳方法是使用生成式人工智慧技術來識別趨勢。當相關活動激增時，研究團隊應與公眾分享相關資訊。
