AI全速發展之際，政府監管到底該介入多深、管控多緊，才算適當？加州州長紐森（Gavin Newsom）29日否決了一項旨在管理AI風險的前瞻法案，該法案草擬過程本已吸引科技巨頭高度關注，如今遭到州長否決，更是激起一番論辯，對於美國內部，乃至於正在發展AI監管法案的各個國家都帶來新的觀點。
這項法案全名為《前沿人工智慧模型安全創新法案》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，以下簡稱加州AI法），代號Senate Bill 1047，俗稱「加州AI安全法案」，由於眾多科技巨頭總部所在的矽谷就在加州，該州領先全美國審議的AI監管法案更是受到外界矚目。今年8月，加州議會壓倒性通過了這項法案，送交州長紐森的辦公室，等待最後簽署和決議。
到了法案決定日最後一天，紐森卻戲劇性投下反對票。他說：「我不認為這是維護公眾遠離科技威脅的最佳解。」紐森認為，法案內容意味著巨大監管壓力，將扼殺科技公司創新，且忽略了小模型可能帶有的威脅，「可能使公眾產生錯誤的安全感」。
法案只管大模型，保安資訊全給司法部門看光
此項法案監管對象為訓練成本超過1億美元，或總開發成本超過1千萬美元的人工智慧模型。以現行的知名模型來看，Meta推出的第三代模型Llama-3-70B包含了700億個參數，業內估計，該模型訓練成本應在數億美元之譜；以常用於訓練AI模型的GPU來計算，大概使用超過3千顆輝達H100來訓練的規模，才會受到加州AI法案的監管影響。
加州AI法案主要內容則與模型的監管措施有關，根據草案，科技巨頭們應在模型內加入強制性安全管理措施，而且年年進行第三方監察並回報給主管部門；若公司發現任何的「人工智慧安全事故」，都應該回報給加州檢察總長（the Attorney Official）。說到回報給官方，這項法案讓許多科技巨頭跳腳的因素，即是有條件允許加州檢察總長要求查閱企業內部保安資訊的條款。當然，檢察總長也有向違規者提出民事訴訟的權力。
科技巨頭群起反對
ChatGPT開發商OpenAI和Google、Meta經營階層皆曾公開反對這項條款。他們認為法案的範圍和要求過於模糊、廣泛，可能會扼殺快速發展的人工智慧領域的創新。他們聲稱，這可能會損害加州在 AI 發展領域的領先地位。
不過也不是科技圈所有人都反對加州AI法。正著手研發xAI的馬斯克（Elon Mask）在X上發言支持此法案，他發文說：「這是一個艱難的決定，而且可能會讓一些人感到不滿，但綜合考慮所有因素，我認為加州應該通過SB1047人工智慧安全法案。我呼籲監管AI已經20多年，這就跟我們對任何可能對公眾造成潛在風險的產品或技術一模一樣。」
This is a tough call and will make some people upset, but, all things considered, I think California should probably pass the SB 1047 AI safety bill.
— Elon Musk (@elonmusk) August 26, 2024
For over 20 years, I have been an advocate for AI regulation, just as we regulate any product/technology that is a potential risk…
業界尊為「AI教父」的辛頓（Geoffrey Hinton）也聯合數名AI研發專家共同發聲，他們在聲明中指出：「我們相信，最強大的 AI 模型可能很快就會帶來嚴重的風險，例如擴大生物武器的使用範圍和對關鍵基礎設施的網路攻擊。對於前瞻的 AI 公司來說，測試最強大的 AI 模型是否會造成嚴重傷害，以及這些公司針對這些風險實施合理的保障措施，是可行且適當的，」他們寫道。
紐森的下一步：我來開一版更好的AI法案
紐森在宣布否決的電子郵件聲明中表示，他正與「AI教母」李飛飛（Fei-Fei Li）及其他頂尖研究人員與產業領導人合作，在加州努力「為生成式AI的部署，制定負責任的防護措施」。截至目前，這個新項目尚未公開。
責任編輯/周岐原
