一群人工智慧行業的員工表示，由於保密協議、缺乏舉報人保護以及害怕報復，他們無法表達對人工智慧威脅人類的擔憂。
在周二發布的一封信中，OpenAI、Google的DeepMind和Anthropic的十多名現任和前任員工表示，人工智慧公司需要為員工建立舉報管道，讓他們能夠安全地向公司內部和公眾表達擔憂。他們表示，保密協議阻止他們公開討論這些問題。
本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
簽署了這封信的OpenAI前員工William Saunders說：「對前沿人工智慧系統的工作原理及其部署風險最了解的人並不能完全自由地發言。」
除Saunders外，還有六名OpenAI前員工在信上簽名。OpenAI的四名現任員工以及Google人工智慧研究實驗室DeepMind的一名前任和一名現任員工也在信上簽了名。其中六名簽名者為匿名。
三位知名的人工智慧專家支持了這封信： 人工智慧科學家Stuart Russell、Yoshua Bengio和Geoffrey Hinton因其早期的突破性研究而被稱為人工智慧教父。Hinton去年離開了Google，這樣他就可以更自由地討論這項技術的風險。
OpenAI周二在回應該信時表示，同意政府應該進行監管。
OpenAI的發言人說：「我們為自己能夠提供最強大、最安全的人工智慧系統的而感到自豪，並相信我們能夠用科學的方法來應對風險。我們同意，鑑於這項技術的重要性，嚴格的辯論至關重要，我們將繼續與世界各國政府、民間社會和其他社區合作。」
DeepMind和亞馬遜支持的Anthropic周二暫未回覆置評請求。
該信的簽名者周二表示，由於政府對人工智慧公司沒有廣泛的監督，現任和前任員工是少數一些能讓公司承擔責任的人。他們說，他們擔心的問題之一是人類可能會失去對自主人工智慧系統的控制，進而導致人類滅絕。
簽名者還要求公司允許員工匿名舉報問題，不對舉報人進行報復，不強迫他們簽署可能會讓他們保持沉默的協議。他們希望人工智慧公司更加透明，更加註重保障措施。
OpenAI周二表示，該公司有一條匿名誠信熱線，在建立必要的保障措施之前不會發布技術。
簽署這封信的OpenAI前員工Daniel Kokotajlo說，公司在競相開發人工智慧技術的過程中，無視人工智慧的風險。
他說：「我決定離開OpenAI，因為我對他們會負責任地行事失去了希望，尤其是在他們追求人工通用智慧的過程中。他們和其他公司都相信「快速行動，打破常規」的方法，而這與如此強大和如此缺乏理解的技術所需要的恰恰相反。」
