中共的言論審查,可能形塑人工智慧生成內容的未來

2023-03-22 12:00

? 人氣

百度表示ERNIE-ViLG的訓練資料來自全球,並非只使用中國的資訊。這意味著,這項工具目前被觀察到的各種審查與遺漏,起因必然是開發者主動為之,以符合政府管制和公司政策──關於審查,政府和中國共產黨已經有詳盡的規則和指引,而中國的科技與社群媒體公司又各自有專屬的黑名單,以及實際上執行審查的方法。這些不同公司的人工智能工具之間的差異,日後可能會更加明顯。

透過<Google新聞> 追蹤風傳媒

2. 中國聊天機器人的管理

世界各國的人們試驗著ChatGPT可以如何使用,但在此同時,中國用戶卻不能完整使用該工具。雖然ChatGPT尚未被防火長城封鎖,但註冊時用戶需要提供電話號碼,只有部分國家的電話號碼可以使用,而中國不在其中。因此,中國網路上出現各種不同的變通方法與仿冒品,有些確實有用,有些則不然,而且許多需要付費;而據報,在2月10日前後,騰訊的微信平台和阿里巴巴的淘寶市場上,相關的連結已經停止出現。

在此同時,許多中國本地開發、以人工智慧為基礎的專案,也正在研發當中,預估將於今年提供公眾使用。舉例而言,百度的「文心一言」據報將於下個月上線,而由於百度的搜尋引擎受到相當嚴格的審查,研究又已經發現,其所開發的人工智慧文圖生成工具也有審查的痕跡,因此可以想見,百度聊天機器人所給出的內容,應該也會充斥著言論審查和其他的操縱。ChatYuan則是另一個人工智慧聊天工具人,已經在騰訊的微信系統中運作,是一個小型的程式,而ChatYuan的創辦人已經向記者承認,ChatYuan會「過濾特定關鍵詞」,而且相較於國外的狀況,審查的層次也可能有更多層次。此外,人們已經發現,前文所提及的一些ChatGPT仿冒品,也會迴避在中國被認為政治上敏感的主題。

然而,即使一個聊天機器人在名義上有受到審查,仍然可能產出無法預測的後果。據報導指出,文心一言的訓練資料來自全球,因此,用戶可以注意機器人是否將會「無心失言」,牴觸中共的偏好。有一些假資訊研究者,要求ChatGPT從中共的角度,或者從廣為人知的陰謀論者的角度寫出文章,藉此得到令人不安的產出,用戶可以用類似的方法,嘗試反擊中國的聊天機器人:如果有用戶要文心一言從異議人士或維權律師(比如劉曉波或高智晟)的角度,或者從習近平的黨內敵人如薄熙來的角度,討論民主、中國憲法或習近平,文心一言會如何回答呢?而中國的網路用戶需要實名登記,如果聊天機器人產生的結果違反中國政府的審查規範,公司和用戶可能面臨怎樣的處罰呢?

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章