台北時間5月21日凌晨,微軟一年一度的開發者大會Microsoft Build 2024在美國西雅圖登場,微軟在會中宣布聯手3大晶片廠、6大電腦業者,共組「Copilot+ PC」生態圈。
一夜之間,從宏碁、華碩、戴爾,到高通(Qualcomm)、英特爾(Intel),紛紛舉行新品發表會或發布新聞稿,宣布AI PC上市的最新進程,AI PC成為最火熱的搜尋關鍵字,尤其6月台北國際電腦展(COMPUTEX)即將到來,將為這波AI PC浪潮炒熱到最高點。
到底什麼是AI PC,為什麼需要AI PC,市場規模有多大?中央社整理專家看法,讓讀者一文看懂AI PC。
什麼是AI PC,與傳統電腦有何不同?
AI PC,顧名思義,就是能夠執行AI運算的個人電腦。傳統電腦運算以CPU(中央處理器)為核心,CPU核心數少,但每個核心結構複雜,適合用來進行複雜的控制與運算。
但新的生成式AI,就像教導小朋友認識貓或狗,問題並不複雜,但背後牽涉大量資料的運算處理,進行「訓練」(training)與「推論」(inference),這時NPU(神經網絡單元)就比CPU更適合派上用場。因為NPU與CPU特性倒過來,其核心數非常多,但每個核心結構簡單,適合用來進行大量重複性的一般運算,也就是俗稱的平行運算。
目前AI PC的定義眾說紛紜,資策會產業情報研究所(MIC)資深產業分析師黃馨認為,AI PC最關鍵要素就是必須具備NPU,可在本地端執行生成式AI應用程式。
而微軟也提出最新定義,要能支援旗下Copilot AI功能的電腦機種,算力至少要達40 TOPS以上(NPU的單位,1TOPS代表處理器每秒鐘可進行1兆次操作),若離線使用Copilot的機種,算力要45 TOPS以上。另外記憶體容量至少要16GB,儲存容量至少要256GB,電池續航力也有相關要求。
為什麼需要AI PC?
這幾年,由ChatGPT掀起的生成式AI浪潮席捲全球,看好未來各種AI應用發展希望無窮,各大CSP(雲端服務供應商)或企業大舉投入布建AI基礎建設,帶動AI伺服器市場超火熱。
惟聯發科總經理暨營運長陳冠州觀察,目前大部分的LLM(大型語言模型)都放在雲端訓練,他認為這波AI浪潮接下來會逐漸從雲端走向邊緣裝置,帶動AI PC、AI手機市場起飛。
陳冠州所持4大理由包括,AI PC在內的邊緣運算比較便宜;其次如果所有運算都放在雲端,網路傳輸量會相當大;而且龐大的雲端算力所消耗的電力,可能會讓整個電網崩潰掉;第4則是安全性和隱私權,最後大家可能還是會希望資料或運算能放在自己身邊,比較放心。