一群業界高管和專家今天警告,全球領導人應致力降低人工智慧(AI)技術所帶來的「人類滅絕」風險。
法新社報導,包括阿特曼(Sam Altman)在內的數十位專家連署了一份簡短聲明。聲明稱,應對AI帶來的人類滅絕風險,應是「與應對疫情和核戰同層級的全球優先要務」。阿特曼的公司OpenAI研發了ChatGPT聊天機器人。
ChatGPT可以依據簡短指令編寫文章、詩歌和對話,因此在去年底一炮而紅。這個程式的巨大成功也吸引了AI領域數十億美元的投資,但批評者和業界人士都發出了警告。
常見的擔憂包括聊天機器人可能導致假消息充斥網路、帶有偏見的演算法可能產出種族主義內容,AI驅動的自動化也可能摧毀整個產業等。
公布在非營利組織「人工智慧安全中心」(Center for AI Safety, CAIS)網頁的這份最新聲明並未詳細說明AI可能帶來的潛在生存威脅。
CAIS表示,這份「言簡意賅的聲明」旨在開啟針對AI技術風險的討論。
聲明的數名簽署人,包括被稱為「人工智慧教父」的辛頓(Geoffrey Hinton),過去也曾提出類似警告。
他們最大的擔憂是所謂「通用人工智慧」(Artificial General Intelligence,AGI)的崛起,也就是具備人類認知能力的人工智慧。
他們害怕,人類將失去對這些超智慧機器的掌控權。專家曾警告,這可能對物種和地球造成災難性後果。
聲明的連署人也包括來自AI領先企業谷歌(Google)和微軟(Microsoft)的專家。
早在2個月前,億萬富豪馬斯克(Elon Musk)和其他數百名專家也曾發表一封公開信,呼籲在確定安全無虞之前,暫緩AI研發工作。
然而,馬斯克的信引來廣泛批評。有人認為,信中關於社會和文明崩潰的警告太過誇大。