Claude 3是什麼?新創公司Anthropic曝「測試手段被它抓包」記者拜訪研發團隊揪1詭異現象

2024-03-08 17:35

? 人氣

Anthropic內部研究人員Alex Albert透露,團隊針對Claude 3 Opus版本進行測試時,曾要求它在隨機集合的大量文件數據中找出解答、來回答一項關於「披薩配料組合」的問題,而它竟如此說道:「我猜想這個pizza配料數據是被刻意放在這邊的,就像一個笑話,這是為了測試我有沒有注意到,因為它完全不符合文件數據中的主題,也沒有關於pizza配料的任何資訊。」

透過<Google新聞> 追蹤風傳媒

艾爾伯特公開此事後,暗指Claude 3聰明到能察覺自己正在接受測試,猶如人類思考一般。

(圖/翻攝自X/Alex Albert)
Alex Albert透露Claude 3 Opus意識到「自己正在接受測試」。(圖/翻攝自X/Alex Albert)

Anthropi兩大亮點!

▶ 7位創辦人都曾是OpenAI的人

Anthropic的執行長為現年40歲的Dario Amodei,總裁則是現年36歲的Daniela Amodei,兩人為兄妹,和另外5位創辦人都曾是OpenAI的高層,但後來因理念不一、對AI模型有不同的規劃,因而出走,再共同成立Anthropic這家公司。

(圖/翻攝自YT/Bessemer Venture Partners)
Dario Amodei和Daniela Amodei都曾是OpenAI前研發高層。(圖/翻攝自YT/Bessemer Venture Partners)

▶ Google、Amazon搶著投資

曾是OpenAI前研發高層的Dario Amodei在2021年和妹妹以及其他創辦人順利成立公司後,2022年時,Google便相當看好其未來發展,投入3億美元,盼推動更強的AI模型研發;2023年9月時,Amazon也宣告投資40億美元。

再至2023年10月底,Dario Amodei透露,Google又加碼投資了20億美元。

科技、AI主題延伸閱讀:

➧ FB、IG全球大當機「原因不尋常」!3組織聲稱「聯手發動攻擊」祖克柏淨資產為此損失880億

➧ 一文看馬斯克翻臉阿特曼「6年恩怨史」!46頁控告文件「狂講AGI超過60次」OpenAI暗酸他是嫉妒

➧ 輝達50%員工年薪超過700萬!台灣分公司內幕曝光「看病免掛號費」發言人親吐:員工休假無上限

◼︎ 本站所有文章之著作權、所有權與智慧財產權,為風傳媒所有,未經許可,嚴禁任何形式的複製、重製、改寫、變更、發行、散布以做為商業用途謀利,惟個人或教育單位不為利益合理使用,不受此限。

喜歡這篇文章嗎?

周育信喝杯咖啡,

告訴我這篇文章寫得真棒!

來自贊助者的話
關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章