Creating an international framework to keep artificial intelligence in check is top of mind for the US, European Union and the UK https://t.co/xil56AEz1G
— Bloomberg Technology (@technology) October 31, 2023
約翰・霍普金斯大學（Johns Hopkins University）政治科學專家法雷爾（Henry Farrell）指出「關於監管的對象和如何監管，我們還沒有共識」。從監管的目標著手會很困難，因為人工智慧發展太快，幾乎每天都會有新創公司推出新產品，開發人員也無法肯定新的大型語言模型會呈現哪些功能。這使得風險評估變得至關重要，如果缺乏評估，就無法檢查、判斷一項產品是否符合規範。
科技公司可能支持監管，但希望限縮監管範圍，而且只對極端風險進行監管。在美國參議院七月舉行的一場聽證會上，Anthropic執行長阿莫德（Dario Amodei）警告，數年內，人工智慧模型將能提供製造生物武器的資訊，讓更多人有能力進行大規模生物攻擊。美國證券交易委員會（U.S. Securities and Exchange Commission）主席詹斯勒（Gary Gensler）則預測，如果相關單位不迅速介入干預，將幾乎無法避免人工智慧引發的金融危機。
不過也有人認為，這些臆測削弱了對其他威脅的重視，例如人工智慧有可能破壞民主制度。在另一場參議院聽證會上，人工智慧專家馬庫斯（Gary Marcus）的證詞開頭，是一段OpenAI「GPT-4」模型生成的新聞報導，指出國會一部份人「暗地裡受到外星實體控制」。馬庫斯對人工智慧抱持懷疑，認為人們「應該對可以虛構事實的系統抱持擔憂」。
具體監管內容難以達成共識。科技公司大多主張，對於最強大的新興AI應當縮減審查，微軟等公司則呼籲設立授權制度，要求科技公司註冊表現超越特定門檻的「前沿模型（frontier models）」。其他提議包括：管控訓練大型語言模型的晶片的販賣情況，以及當消費者訓練前沿模型時，要求雲端運算（cloud-computing）公司通報當局。
大多數公司也同意需要監管的是「模型的應用」而不是模型本身。辦公軟體：點到為止。健康保險AI：嚴格管理。公共場所的臉部辨識系統：大概不可能獲得許可。這種應用導向法規的優點是，現有的法律大概足夠用於人工智慧監管，不過人工智慧開發人員提醒，更廣泛、更具針對性的法規，會使革新速度變慢。
自願法遵轉向法規監管
直到去年為止，美國、英國和歐盟似乎都同意上述風險導向的管理方法，不過去年大型語言模型發展迅速、ChatGPT問世，讓這些國家不得不重新考慮。現在歐盟正在討論到底需不需要監督AI模型本身，歐洲議會希望開發者預先測試大型語言模型，分析模型對人類健康到人權的所有潛在影響，也堅持取得AI的訓練數據。加拿大政府向國會提交《人工智慧資料法案》（Artificial Intelligence and Data Act）便有相關強硬規定，英國可能重新審視不干涉的做法，巴西也在討論類似規範，而美國總統拜登（Joe Biden）日前簽署的行政命令，目標也是管理這項新興技術。
目前為止，美國政府採取自願法遵的方式，去年夏天談判之後，有15間人工智慧開發公司自願簽訂協議，同意在推出新模型以前，在公司內部及外部進行測試，並說明他們如何管控風險。這種類型的無約束力行為守則（code of conduct）仍是主流方法，各界都期望以更強硬的規範限制人工智慧的應用。
那麼，接下來的問題就是由誰監管。美國和英國認為現有的政府部門可以執行大部分工作，歐盟計畫創設新的監管機構。綜觀全球，一些科技公司主管呼籲設立類似聯合國政府間氣候變化專門委員會（IPCC）的跨政府組織，專責研究人工智慧議題並衡量影響。
Factbox: Governments race to regulate AI tools https://t.co/GHKCjEsPqW pic.twitter.com/vzdMyXNn7B
— Reuters (@Reuters) September 22, 2023
考慮到這些問題規模大、牽涉範圍又廣，因此倫敦峰會可能無法完成所有協商，籌備者布萊克就認為，峰會應被視為一場對談。儘管如此，各界仍希望峰會能達成部分目標，尤其第二天會議室里只會有20位左右最重要的政界和商界高層，他們可能會認可白宮與人工智慧公司的自願協議，擁護創建AI的跨政府組織，或將英國的前沿人工智能工作組（Frontier AI Taskforce）推向全球。如果倫敦峰會取得進展，或可加速各國政府和G7設立法規監管人工智慧，促進更多討論。
