用AI生出成人片、情色內容?OpenAI正探索「負責任的模式」:深偽免談

2024-05-11 11:00

? 人氣

喬安.姜告訴NPR:「我們要在適當年齡的環境中探討此事。」研究深偽問題的美國舊金山大學教授蒂芬妮.李(Tiffany Li)直言,為性剝削內容和圖像開啟大門會是個冒險決定,「可能是傷害大於獲益…… 這是個令人敬佩的目標,為教育及藝術使用者探索此事,但他們必須極其小心」。

透過<Google新聞> 追蹤風傳媒

人們普遍認為,大型語言模型--即為ChatGPT提供動力並在海量數據基礎上進行訓練的算法--並不是一項完全成熟的技術。(AP)
人們普遍認為,大型語言模型--即為ChatGPT提供動力並在海量數據基礎上進行訓練的算法--並不是一項完全成熟的技術。(AP)

在適當年齡的環境中探討

美國史丹佛網路實驗室(Stanford Internet Observatory)研究經理狄雷斯塔(Renee DiResta)同樣認為有嚴重風險,並稱「他們最好是考量安全提供合法成人片,而非從開源模型取得」。蒂芬妮.李說,允許任何AI生成圖像和影片,會很快被惡意行為者利用,並造成傷害。

蒂芬妮.李提到,就連情色文字內容都會被濫用,「文字為主的濫用會造成傷害,但不是直接或侵入式傷害…… 或許會被用來浪漫詐騙(romance scam)。這會是個問題」。喬安.姜強調,現在違反OpenAI的NSFW政策的「無害例子」有天可能會被批准。

喬安.姜重申,AI生成的非自願性圖像和影片,或深偽成人片都會被封鎖,就算惡意行為者企圖繞過規定,「若我的目標是製造成人片…… 我會在別的地方進行」。

位於英國的網路觀察基金會(IWF)是保護孩童免於網路性虐待的慈善組織,其警告戀童癖正用AI創造孩童裸照,且是用網上可取得的免費版本技術。關注孩童網路安全的英國上議院中立議員基德朗(Beeban Kidron)指控,OpenAI「迅速破壞其自身使命宣言」。

創造出ChatGPT的OpenAI。(美聯社)
創造出ChatGPT的OpenAI。(美聯社)

OpenAI快速破壞自身使命

基德朗表示,OpenAI憲章提及開發AI,即此系統在一系列任務中可做得比人類好,是「安全且有益」,並直批「科技產業以商業議題,像是AI(生成)情色內容來娛樂自己,而非就其帶來的傷害採取實際步驟和負起企業責任,這令人無止境地失望」。

英國杜倫大學(Durham University)成人片規範專家麥格林(Clare McGlynn)告訴《衛報》,她對任何科技公司誓言負責任地生產成人內容抱持疑問,「我對他們試圖限制在雙方合意製作,且材料合法的任何模式深感懷疑」。OpenAI科技長穆拉提(Mira Murati)曾說,不確定公司是否同意影片生成工具Sora製造裸露圖像。

「你可想像在創作設定中,藝術家可能想有更多控制權」,穆拉提向《華爾街日報》表示,「現在我們正與不同領域的藝術家及創作者合作,搞清楚確實有用的模式,工具應提供哪種彈性程度」。

喜歡這篇文章嗎?

簡恒宇喝杯咖啡,

告訴我這篇文章寫得真棒!

來自贊助者的話
關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg