對於生成式AI善於統整與創作，雖然協助人類彙整資料等需求，它所產出的內容同樣也受到許多的質疑，譬如所生成的內容用數位科技做出來的成品，像是圖片製作，它的智慧財產權歸屬問題。其次是和網際網路的過度依賴使用一樣，若使用者太過依賴生成式AI，可能影響創造力的思考。最近就有教師為了避免學生貪圖便利，用生成式AI做成的作業，只要是與心得報告有關的作業，一律都改為口頭報告，或許就是擔心這類的事情發生。
生成式AI還有另一大隱憂是，若被不肖人士所利用以假亂真來包裝假訊息，民眾可能更難辨識。假訊息的嚴重性已是國家安全問題，曾有跨國學術調查，臺灣遭到外國假訊息攻擊程度是世界第一。假訊息之所以讓人無法辨識是把真實的內容重新再包裝，又或者當你一再重複聽到相同的陳述時，會覺得假訊息更像是真實。而且假訊息的種類甚多，不是只有訊息的內容是假的，還有假的圖片、影片、網址、教人如何操作商品的開箱文等。偏偏面對這些假訊息，無論在辨識程度，或是防制假訊息的能力方面，民眾反應卻是薄弱的。
「台灣事實查核教育基金會」曾公布臺灣假訊息的調查，發現有7成5民眾表示過去一年曾收到假訊息，也有5成民眾認為自己不會受騙，反而有9成民眾覺得別人才可能容易上當。最常製造假訊息的傳播管道則以網路和手機最多。
由於生成式AI裡所提供的資料並無檢核的機制，無法確定內容是否正確，必須人工一一去核對，若是使用者又沒有進一步確認，很可能就這樣傳播出去。因此，閱聽人本身的「媒體識讀」（media literacy）就很重要。
該如何使用來防範呢？日前國科會曾發布「行政院及所屬機關（構）使用生成式AI參考指引草案」，羅列了10點各機關使用生成式AI的注意事項，包括不得向生成式AI提供涉及公務應保密，使用生成式AI作為執行業務或提供服務輔助工具時應適當揭露等，為了就是因應生成式AI可能涉及智慧財產權業務機密方面的侵害。雖然這個指引也適用於一般大眾，不過這只是針對智慧財產權方面的使用注意事項，真正要杜絕假訊息的發生，關鍵還是在教育，民眾的媒體識讀有無真正的落實。
假訊息的手法日新月異，這些訊息常以移花接木的方式，有時會用聳動的標題或誇張的圖片去吸引民眾注意，讓人沒有戒心而不去辨別真偽；況且大部分的民眾只要覺得新奇、有趣，常常會分享給親朋好友們。對抗假訊息不能只靠法律的制定，民眾無論使用哪種媒介都要有正確的使用觀念，對於來路不明的資訊應避免轉發外，也要有警覺心與判別能力，才能減緩假訊息的漫延。
＊作者為諄筆群主筆
