最後,Pahlavan和其他合夥人將目光轉向亞馬遜,讓他們為AI訓練(也就是系統從大量數據中「學習」的過程)生產客製化晶片。經過幾個月努力,該團隊終於成功在亞馬遜的Trainium晶片上完成了AI的訓練,這是個浩大的工程。
「過程中遭遇許多挑戰和麻煩。」Pahlavan回憶,在這段時間以來,NinjaTech AI團隊與亞馬遜的軟體團隊每週會面四次,所幸最後順利解決問題。NinjaTech的AI「代理人」於今年5月推出,他們聲稱每月有超過100萬活躍用戶,這些用戶使用的模型都是在亞馬遜的晶片上訓練和運行的。
實際上,使用亞馬遜訂製AI晶片的客戶還包括Anthropic、Airbnb、Pinterest和Snap。亞馬遜雖然也提供輝達晶片的雲端計算服務,但使用成本高於自家的AI晶片。
從NinjaTech AI的例子來看,新創公司寧願飽受磨難,也要在輝達「圍牆花園」之外構建AI的主要原因,說到底還是成本。
Pahlavan表示,為了服務每月超過100萬名用戶,Ninja Tech在亞馬遜的雲端服務帳單約為每月25萬美元,但是如果使用輝達的晶片,成本將暴增為75萬至120萬美元。
面對同業的競爭壓力以及客戶的苦衷,輝達當然了然於胸,黃仁勳也已承諾,輝達開發下一代產品時,將降低晶片在硬體上訓練AI的成本。
《華爾街日報》認為,在可預見的未來,輝達的命運將取決於一種「慣性」,猶如以往那些將企業及客戶鎖定在各種封閉平台中,蘋果正是眾所周知的經典一例。
責任編輯/林彥呈