本周，中國網信辦發佈了《生成式人工智能服務管理辦法（徵求意見稿）》，其中「利用生成式人工智能生成的內容應當體現社會主義核心價值觀」，以及必須向網信辦申報安全評估並且須進行演算法備案等內容，引起關注。
正如特斯拉興起，推高了中國電動車行業的熱情；ChatGPT猶如一把大火，點燃了整個人工智能行業，僅僅幾個月，百度推出文心一言，阿里巴巴推出通義千問，百川智能、商湯科技、昆侖萬維也宣佈要進入這個領域。
它們被統稱為「生成式人工智慧」（generative AI）。一句話概況，這種AI可以進行內容原創，通過演算法來生成圖像、文字、音樂，甚至程式碼和影片，而且不需要人工干預。
這一特點令用戶即興奮，又害怕。比如，它可以創造出以假亂真的新聞圖片，令虛假信息快速傳播。中國和其它國家的監管新規，能讓這條已經迅速火爆起來的賽道健康發展嗎？
為何這麼快就進行監管？
「這麼快就推出監管措施確實比較少，比如P2P金融已經遍地都是，開始爆雷了才進行強監管。」一位要求匿名的中國人工智慧從業者向BBC中文表示，生成式人工智慧才爆發不到半年，中國的相關應用才推出幾周，就推出監管辦法，之所以這麼快主要有三個原因：生成式AI的倫理問題、破壞力，以及極快的進化速度。
倫理擔憂幾乎伴隨著人工智慧的每一步發展。聯合國教科文組織發佈的《人工智慧倫理問題建議書》稱，此類技術極具侵入性，它們侵犯人權和基本自由，且被廣泛使用。
這份建議書還表示，該技術也帶來了前所未有的新挑戰：性別和種族偏見增加，對隱私、尊嚴和行動力的重大威脅，大規模監控的風險，以及在執法中越來越多地使用不成熟的人工智能技術，如此種種。「直到現在，我們還沒有通行的標凖來應對這些問題。」
倫理擔憂對ChatGPT也同樣存在——它已展現出「石破天驚」的人工智慧化一面，對很多領域產生破壞性，比較直接的例子是有大學生用其生成論文並獲得高分。
不僅如此，生成式人工智慧進化速度極快，ChatGPT去年11月推出後，今年3月迭代出的GPT-4，不僅知識面更廣、對答更流暢，開始能夠讀懂圖片內容，在律師資格考試中拿下高分，而且具備自我反思的能力。
甚至ChatGPT的開發者也表示，全社會只有有限的時間來決定如何對其監管。
《生成式人工智能服務管理辦法（徵求意見稿）》頗受關注的一條是，「利用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。」
