上個月，甘肅省有關部門拘留了一名男子，他據稱利用在網上收集的新聞片段，在ChatGPT上生成了一篇有關火車撞人事故的虛假文章。據警方稱，該男子在一個自媒體平台上發表了這篇文章；用戶可以分享該自媒體平台基於流量的廣告收入。警方說，這篇文章的瀏覽量達15,000次。
2011年中國東部發生了兩列火車相撞事件，政府對那起事件的處理曾引發民眾廣泛不滿。
今年5月，河南省有關部門指稱一名男子利用ChatGPT生成了一家餐館發生鬥毆事件的虛假不實資訊以吸引流量。文中的一些重要資訊誤導人們稱，一名女子在這場毆打事件中被一名男子用磚頭砸中頭部後死亡。
這些消息讓人聯想到去年在網上廣泛傳播的一些影片，這些影片顯示一群男子在一家餐廳毆打幾名女子，這在網上引發了關於針對女性的性別暴力的熱議。
中國不在OpenAI的聊天機器人ChatGPT提供服務的國家之列，但很多人通過VPN設法繞過了這一障礙。
ChatGPT的流行在中國激起了一陣熱潮，因兩年的監管整頓和經濟形勢不穩定而受到衝擊的中國科技企業將這項技術視為成長的新動力。
搜尋引擎公司百度（Baidu, BIDU）、電商巨頭阿里巴巴集團（Alibaba Group Holding Limited, BABA, 9988.HK）和AI公司商湯集團（SenseTime Group Inc., 0020.HK）已推出自家的大型語言模型；大型語言模型是ChatGPT背後的基礎技術。其他科技公司也正在探索如何將AI技術融入各自的產品。
世界各國政府都擔心，類似ChatGPT的服務可能會傳播歧視性或有害的資訊。其他國家的監管機構開始研究對新一波生成式AI技術實施潛在檢查之際，中國已準備好一套監管框架來審查聊天機器人。
中國國家互聯網資訊辦公室4月份頒布了新規，要求公司在推出此類AI聊天機器人之前要先經過安全審查。此外，根據新的法規草案，公司有責任確保其AI服務生成的內容是真實的，並且需體現社會主義價值觀。
