去年11月30日，美國人工智慧研究實驗室OpenAI推出一款聊天機器人ChatGPT，它能用中、英文回答各種問題，還能翻譯、寫程式、創作歌曲，被視為是人工智慧的重大突破。不過紐約市教育局5日證實，當地公立學校電腦和網路不再開放ChatGPT，學校系統運用網路過濾擋下ChatGPT網站，因為他們擔心ChatGPT會對學生帶來負面影響。
總部位於舊金山的非營利組織OpenAI去年11月底推出ChatGPT，開放公眾免費測試，旋即在全球掀起討論熱潮。ChatGPT的介面就像線上聊天室，用戶只要輸入問句，三、五秒鐘內，ChatGPT就能模仿人類的對話方式，產出數百字內容大致正確、文意通順的高品質答案。
去年上線短短一週內，便有逾百萬用戶嘗試與它交談。迄今為止，使用者測試發現ChatGPT的可應用範圍相當廣泛，包括回覆客服、翻譯、寫程式、創作故事、圖像及歌曲等。
開發ChatGPT的公司OpenAI，是由美國電動車公司「特斯拉」（Tesla）執行長馬斯克（Elon Musk）及創投公司Y Combinator創始人奧特曼（Sam Altman）於2015年共同創立的AI研究機構，旨在鑽研人工智慧科技，讓科技造福人類社會。微軟（Micorsoft）後來也成為其重要的投資者之一。
紐約公立學校禁用ChatGPT
不過， ChatGPT最近卻在美國教育界引起不小爭議。根據《美聯社》（AP）報導，紐約市教育局5日證實，當地公立學校電腦和網路不再開放ChatGPT，學校系統將運用網路過濾擋下 ChatGPT 網站，但師生仍可用自己的行動裝置和網路連上ChatGPT 網站。
紐約市教育局表示，他們擔心ChatGPT會對學生帶來負面影響，並質疑其產出內容的安全性和準確性。紐約市教育局發言人萊爾（Jenna Lyle）說：「雖然這項工具可以提供快速且簡單的答案，但它不會培養人們擁有批判性思考和解決問題的能力，無助學術和個人養成。」
ChatGPT能否拿來寫論文？
至於ChatGPT能否拿來寫論文，《美聯社》記者向ChatGPT提出此問題後，得到以下的回答：「作為一般規則，使用ChatGPT或任何其他自動寫作工具來寫學校論文是不合適的，因為它被認為是作弊，而且從長遠來看，這並不會對學生有利。」
「要辨別某些東西是由人類還是人工智慧（AI）所編寫，你可以在其中找尋個人經歷或情感的缺乏、檢查寫作風格的不連貫，以及留意填充詞或重複短句的使用。這些可能都是由人工智慧產生文本的跡象。」ChatGPT系統在《美聯社》記者提問後出現上述回覆。
OpenAI本週在一份由人工撰寫的聲明中指出，該公司計畫與教育工作者合作，了解人們如何在真實世界與ChatGPT互動。該公司表示：「我們不希望ChatGPT在學校或任何地方被用於誤導性目的，所以我們已經開發相關緩解措施，幫助人們識別由該系統產生的文本。」
準確度尚有進步空間
OpenAI也表示，ChatGPT模型是利用名為「從人類反饋中強化學習」（RLHF）的機器學習技術所訓練而成。RLHF可以模擬對話，回答衍生問題、承認錯誤、質疑不正確的前提，並且拒絕不適當的請求。
「ChatGPT仍有很多的限制性，但在某些方面卻足以產生巨大的誤導性印象，」奧特曼去年12月在推特（Twitter）上表示，「現在任何重要的事情依賴它都是錯誤的。」他更補充說道，「這是進步的預演，但我們在穩定性和真實性方面仍有許多工作要做。」
