Blackwell家族添新成員!黃仁勳演講展示商用機架和AI模型:「現在就可在輝達官網找到」

2025-01-07 11:59

? 人氣

輝達(nVidia)創辦人暨執行長黃仁勳今(7)日在CES發表演說,展示新款產品(圖片來源:YOUTUBE頻道截圖)

輝達(nVidia)創辦人暨執行長黃仁勳今(7)日在CES發表演說,展示新款產品(圖片來源:YOUTUBE頻道截圖)

生成式AI擁有自學能力,可以吸收得到的知識,然而AI熱潮到了第3年,何時可以使用AI於企業營運場景?AI代理人(Agentic AI)是業界公認的下個世代,也是輝達在CES開場的亮點。輝達執行長黃仁勳(Jensen Huang)今(7)日在美國消費性電子展(CES 2025)帶來開場演說,吸引爆滿觀眾參與。 

透過<Google新聞> 追蹤風傳媒

Blackwell新成員正式亮相 

黃仁勳表示「輝達進一步推展(Scaling along)Blackwell系列,」推出工業用伺服器。 這項名為”Grace” Blackwell NVLink72的機架僅須20.5千瓦時運行,擁有2m長電纜,使用液冷。因為資料中心仰賴大量能源,黃仁勳認為新展示的”Grace” Blackwell NVLink72較上個世代效能表現好4倍,已經達到工業用水準(really are factory today)。

黃仁勳預期,當前已進入AI代理人時代,AI如同人類,在對話同時可以反思。為了讓AI的運行不卡頓,token rates也必須迅速提高。「AI的規模才能繼續擴大,」黃仁勳表示。 

具有”Test-Time Scaling”代理式AI 

黃仁勳說:「我們為了推展AI代理生態系,跟雲端服務供應商和IT科技公司合作,推出AI加速的資源庫(library)。」輝達和軟體服務商合作推出整合套裝組合,一次即可購入軟硬體。他預期,未來每個企業可以直接購入一個組合,部署於公司中,即刻發揮AI潛能。

下一個層次是NVidia NeMo

黃仁勳接著提出AI代理人的實踐工具。「我們有些工具讓AI被訓練成數位版的員工,我們預期這就是AI代理人的實現。因此今天我們很高興的展示輝達的Llama Nemotron語言源模型家族。」這些模型有不同規模,適用於教育、企業內訓等層面,現在就可以在輝達的官網找到和使用。


責任編輯/周岐原

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章