美國國務院軍備控制官員迪恩(Paul Dean)本月初表示,核武國家應該禁止讓人工智慧控制核武器。他強調,美國已經「非常明確和堅定地承諾」,核武器的部署決定「只會由人類做出」,並補充道:「我們永遠不會將核武器的使用決定權交給AI。」
迪恩指出,英國和法國也承諾將核武器控制在人類手中。他呼籲中國和俄羅斯也跟進,宣布確保使用這種強大武器的最終決定權僅歸人類所有。迪恩進一步指出,美方認為這樣的做法是極重要的負責任行為,同時也標誌著聯合國安全理事會的五個常任理事國在管理核武器方面達成了令人樂見的共識。
在布魯金斯研究院(The Brookings Institution)的一篇評論中,學者魏光明(Graham Webster)和何瑞恩(Ryan Hass)指出,美中AI會談有望帶來更深層次的共識,包括哪些軍事應用中AI是可以被允許的,以及如何就訓練AI模型方面的跨境數據共享達成協議。
《華盛頓郵報》(Washington Post)指出,眼下,能夠保持開放的溝通管道已經是這些談判的重要成果。雙方官員皆表示,在美中關係日益惡化的情況下,防止意外將「事實冷戰」升級為「熱戰」(不論是因為人為失誤還是AI故障),應該是當前的政策重點。
美國政府官員感到擔憂的其他風險包含:與AI算法連接的數據庫可能遭對手駭入,以及自動系統故障可能導致軍事意外。此外,政府在決定AI系統的精確編程和容錯範圍時,面臨著棘手的道德問題。
根據獨立雜誌+972的上月報導,以色列在加薩使用AI來識別轟炸目標,這一做法引發了爭議。報導指出,在某些案例中,AI僅經過20秒的人工監督就做出了決定。聯合國秘書長古特雷斯(Antonio Guterres)對此表示關切,他強調表示「任何影響整個家庭生死的決定,都不應該僅依靠演算法的冰冷計算。」