生成式AI擁有自學能力,可以吸收得到的知識,然而AI熱潮到了第3年,何時可以使用AI於企業營運場景?AI代理人(Agentic AI)是業界公認的下個世代,也是輝達在CES開場的亮點。輝達執行長黃仁勳(Jensen Huang)今(7)日在美國消費性電子展(CES 2025)帶來開場演說,吸引爆滿觀眾參與。
Blackwell新成員正式亮相
黃仁勳表示「輝達進一步推展(Scaling along)Blackwell系列,」推出工業用伺服器。 這項名為”Grace” Blackwell NVLink72的機架僅須20.5千瓦時運行,擁有2m長電纜,使用液冷。因為資料中心仰賴大量能源,黃仁勳認為新展示的”Grace” Blackwell NVLink72較上個世代效能表現好4倍,已經達到工業用水準(really are factory today)。
黃仁勳預期,當前已進入AI代理人時代,AI如同人類,在對話同時可以反思。為了讓AI的運行不卡頓,token rates也必須迅速提高。「AI的規模才能繼續擴大,」黃仁勳表示。
具有”Test-Time Scaling”代理式AI
黃仁勳說:「我們為了推展AI代理生態系,跟雲端服務供應商和IT科技公司合作,推出AI加速的資源庫(library)。」輝達和軟體服務商合作推出整合套裝組合,一次即可購入軟硬體。他預期,未來每個企業可以直接購入一個組合,部署於公司中,即刻發揮AI潛能。
下一個層次是NVidia NeMo
黃仁勳接著提出AI代理人的實踐工具。「我們有些工具讓AI被訓練成數位版的員工,我們預期這就是AI代理人的實現。因此今天我們很高興的展示輝達的Llama Nemotron語言源模型家族。」這些模型有不同規模,適用於教育、企業內訓等層面,現在就可以在輝達的官網找到和使用。
責任編輯/周岐原