該公司周三宣布,阿特曼將恢復CEO職位,Sutskever、McCauley和Toner將被替換。支持放慢AI發展速度、並被聘為臨時CEO的技術高管Emmett Shear則被解職。
阿特曼被罷免引發了該公司員工的大範圍反抗,這場反抗威脅到了OpenAI的未來。約770名員工中有700多人要求阿特曼回歸,並威脅要跳槽到OpenAI最大的投資者微軟。Sutskever周一表示,他對自己的投票感到後悔。
風險投資家、OpenAI投資人Vinod Khosla在The Information的一篇評論文章中寫道:「OpenAI的董事會成員對『有效利他主義』的信奉及錯誤應用,可能會阻礙世界享受AI的巨大紅利。」
阿特曼今年春天在全球巡迴演講,警告AI可能造成嚴重危害。他也稱有效利他主義是一種「存在嚴重缺陷的運動」,會有「非常奇怪的系統湧現出來」。
有效利他主義社區花費了巨資來宣傳AI構成生存風險的觀點。德克薩斯大學奧斯汀分校(University of Texas, Austin)的電腦科學家Scott Aaronson在OpenAI從事AI安全研究,他表示,正是ChatGPT的發布引發了人們對AI飛速發展的廣泛關注。他說,這款聊天機器人令人吃驚的能力讓以前對此不以為然的人們感到擔憂。
這場運動已經在科技行業的科學家、投資者和高管隊伍中傳播開來,他們競相創造AI系統,以模仿並最終超越人類的能力。這場運動的參與者認為,AI可以帶來全球繁榮,但首先必須防止它造成破壞。
Google(Google)和其他公司正試圖率先推出能與人腦媲美的AI系統。這些公司在很大程度上將AI視為一種工具來推動工作和經濟發展,並從中獲取巨額利潤。
支持該運動的知名人士包括Facebook的聯合創始人Dustin Moskovitz、Skype的億萬富翁創始人Jann Tallinn,他們承諾為有效利他主義研究提供數以十億美元計資金。班克曼-弗里德伏法之前,也承諾提供數以十億美元計資金。馬斯克(Elon Musk)曾稱有效利他主義的聯合創始人William MacAskill的著作「與我的理念非常吻合」。
風險投資公司Andreessen Horowitz的聯合創始人Marc Andreessen和初創企業孵化器Y Combinator的CEO Garry Tan對這一運動提出了批評。Tan稱這是一種沒有實質意義的「美德信號哲學」,應予以摒棄,以「解決真正的問題,創造人類的富足」。