對於Tramèr的說法，營運維基百科的非營利組織維基媒體基金會（Wikimedia Foundation）表示，維基的內容由世界各地的志願者社群管理，可作為防止內容被操縱的第一道防線。但Tramèr表示，「網路不是值得信賴的地方。」
目前AI中毒還不普遍，但未來可能會有更多駭客下手
不過往好處想，資料下毒其實也有正面用途。芝加哥大學電腦科學教授Ben Y. Zhao表示，部分研究人員正透過資料下毒，協助藝術家和創作者保護作品著作權。華爾街日報稱其為「防禦性下毒」（Defensive Poisoning）。
具體來說，Zhao的研究團隊為內容創作者開發名為Nightshade的軟體，預防創作者的圖像被生成式AI使用，因為不是每位創作者都希望自己的作品被用於訓練AI。Nightshade透過人眼看不到，但是會誤導AI的方式更改圖像，例如AI開發者蒐集手提包的圖片，但是Nightshade將其改成烤麵包機的圖片，藉此來保護創作者的作品。Zhao表示，這能防止作品被生成式AI開發者侵權。
好消息是，目前AI中毒的狀況還不普遍。只不過目前生成式AI主要透過公開網路的數據訓練，但如果未來愈來愈多企業用自己的資料庫訓練AI模型，就會吸引更多駭客下毒，因為有利可圖。因此專家建議，應透過立法來確保資料安全。
加州大學柏克萊分校Haas商學院講師David Harris表示，歐盟最近的《人工智慧法案》（AI Act）就是為數不多的AI相關法案。該法明確指出數據中毒問題，將其列為網路攻擊的一種形式，要求AI工具的開發者實施安全控制，以確立與風險相應的網路安全水準。隨著AI普及，法規將是防範AI中毒的重要防線。
本文為風傳媒特邀導讀人金牛幫幫忙撰寫，請點此訂閱：風傳媒・華爾街日報VVIP，風傳媒會員獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
責任編輯／郭家宏
