AIGC也有假訊息!陳縕儂籲培養媒體識讀、事實查核
「如果你沒有事實查核的能力,你常常就會被AI給誤導。」陳縕儂提到,曾有實驗發現,就算提前警告使用者系統訊息可能有錯,使用者仍會照樣接收並相信,必須要系統反覆警示、提醒查核,使用者才會小心確認;這也近似當今的假訊息操作,若不斷聽到某項錯誤資訊,久而久之就可能「三人成虎」的誤以為真。
陳縕儂示警,前述實驗結果是非常危險的問題,若錯誤資訊一再出現且被使用者相信,極可能影響使用者的思維、知識、價值觀,並改變使用者的意識形態;而外界都明瞭在應對認知作戰時,媒體識讀、事實查核都非常重要,這其實也和判斷AIGC產出內容是否正確應具備的能力如出一徹。
陳縕儂強調,人類應對AIGC產出資訊保持警覺心並確認真實性,不應一昧相信接收到的所有資訊,如同應對假新聞應有的媒體識讀能力;實際上假新聞的錯誤資訊也未必是有意使然,但報導內就是有錯誤訊息,「具備媒體識讀能力、進行事實查核,其實才是我們這個世代,以及未來世代,應該要培養的重要能力。」
指訓練AIGC如育兒 陳縕儂:要把它養成住台灣的小孩
事實上,當前AIGC的問題不僅有不實資訊,陳縕儂直指,倫理問題是更棘手的難解議題,因AIGC在訓練過程所讀資料,可能會致其產生各式偏見,如對職業的性別刻板印象等,但就猶如養育孩童,「小朋友也有可能走歪,可能會有些不可控的狀況出現,如何導正、教育、跟它和平共處,其實都是非常重要的議題。」
此外,陳縕儂表示,目前AIGC雖能用繁體中文與台灣使用者互動,但由於資料集不足,不時會出現簡體中文或用詞落差等問題,導致無法將AIGC生成的答覆直接運用,仍需要做人工修正,也使得AIGC作為工具在台灣還不夠好用,而這也是AIGC需在地化的原因,「讓它有點像是住在台灣的小孩。」
「大家應該要多了解AI,因為在不了解的時候,你就會過度的恐慌。」陳縕儂也說,真正了解後就會發現AIGC其實沒那麼可怕,人類只要妥善利用,就能減少工作時間、提升工作效率,「AI是可以empower(賦能)人類,讓你能力變得更強,所以未來遇到任何事情的時候,你可以都試著用AI的思維來想想看。」
更多風傳媒獨家內幕:
‧ 【新新聞】金控股利活跳跳 2大亮點搶先掌握、今年獲利動能「這類型」最強