Blackwell「效能相似」簡配版,誰會買單?一文看英特爾的「自選AI伺服器組合」

2024-12-05 11:03

? 人氣

英特爾亞太暨日本區總經理莊秉翰展示Gaudi 3 AI加速器的生態系夥伴,多間台廠榜上有名。圖/張薰云攝。

英特爾亞太暨日本區總經理莊秉翰展示Gaudi 3 AI加速器的生態系夥伴,多間台廠榜上有名。圖/張薰云攝。

英特爾3日召開產品發表會,分享在資料中心級處理器的最新進展。時值總公司CEO基辛格突然宣布退休的隔日,發表會雖照舊舉辦,卻取消了接續的媒體餐敘。在展示會的一開始,英特爾亞太暨日本區總經理莊秉翰遙表謝意,對基辛格在公司艱難時刻回鍋、「帶領公司重返領導地位」的努力表達感激之情,並強調公司將持續透過產品,幫助企業加速導入AI。如此為發表會揭開序幕。

透過<Google新聞> 追蹤風傳媒

 

這次英特爾推出Xeon 6系列處理器和Gaudi 3系列AI加速器共3類產品,分別回應自建資料中心到部署企業RAG資料庫,等3種企業需求,要在被輝達和AMD搶佔的市場中,切出一塊新戰區。莊秉翰表示,研究發現企業認為導入AI到應用的成本是一大挑戰,因此英特爾推出一系列解決方案,讓企業可以靈活、快速使用AI功能,而降低整體擁有成本(TCO)。

 

7成3的現有GPU伺服器使用英特爾Xeon,規模優勢能否延續

英特爾作為硬體設備提供者,這次除展出新款處理器機組、機櫃,更在現場提供醫療和圖文資訊生成的AI功能live demo,並在會場上解釋企業RAG(Retrieval Augmented Generation)用途。英特爾亞太區資料中心暨AI業務技術總監Gary解釋,公司選擇和微軟等雲端服務供應商合作,預訓練大型語言模型,並推出合作開發的AI應用程式,目的是讓企業可「無痛導入AI」。

 

現場解說人員分享英特爾提出3種解決方案,從配滿8張Gaudi 3的「全英機組」,到6張Gaudi 3的CPU搭配4張NV的GPU或其他家網卡的「半半機組」,讓企業依據不同算力、效能需求自由購置組合。

 

現場解說人員強調,英特爾的好處是「不用久等」,預估只買「全英機組」的情況,約3-4個月即可出貨、送到客戶手上,對比排隊到2026年的輝達,具有時效上的優勢。「使用Gaudi 3的好處在於,以更低成本部署和NV效能差不多的產品,不用苦等交貨」。

 

根據英特爾公布資訊,目前IBM Cloud已部署Gaudi 3加速器作為AI服務的硬體設備。英特爾表示,目前市場上有73%的GPU伺服器使用Intel Xeon系列處理器作為主處理器。

搭載英特爾Gaudi 3系列的伺服器機組。圖/張薰云攝。
搭載英特爾Gaudi 3系列的伺服器機組。圖/張薰云攝。

2+1種處理器,細緻分出不同市場

Xeon 6系列分為P-core和E-core兩款子系列,適用於企業用伺服器和工業電腦。P-core專注於提高每個核心的效能,適用於邊緣AI的部署到小型資料中心; E-core則是主打高機體密度、高能效,在提高每瓦性能的同時,亦維持了高效能運算的能力,可用於處理較輕鬆的背景任務。

 

而Gaudi 3系列AI加速器則設計為大規模AI運算所用,可於資料中心或雲端上支援大型語言模型(LLM)、多模態模型與企業RAG等AI應用程式,並且無縫整合了各式AI應用的開發工具,有助於加速企業開發AI產品和導入業務。


責任編輯/周岐原

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章