「最台AI」上線免費開放!團隊盼建台灣產業界的AI生態系

2024-07-03 17:40

? 人氣

7月1日Project TAME發表會上,長春、和碩、長庚、欣興電子、科技報橘五家企業和開發團隊代表聯合出席。

7月1日Project TAME發表會上,長春、和碩、長庚、欣興電子、科技報橘五家企業和開發團隊代表聯合出席。

現在國人常用的生成式AI服務多為美國企業開發,如ChatGPT、Claude、Google Gemini等;輝達執行長黃仁勳今年訪台時,便曾提到每個國家都應投資發展自身的AI能力,也就是「主權AI」(Sovereign AI)的概念。如今,繼中研院、聯發科等產學團隊開發繁中在地化的大型語言模型(台版GPT)後,現有產業界找來台大團隊,結合NVIDIA支援的算力,開發出全球首創的「繁體中文專家模型開源專案 TAiwan Mixture of Experts」(下稱Project TAME)。

[啟動LINE推播] 每日重大新聞通知

跨業合作、打造大型混合專家模型,期待創造「AI生態系」

Project TAME由長春集團與和碩聯合科技共同發起,邀集醫藥業長庚集團,電子業欣興電子,媒體業科技報橘等產業界人士加入,台大資工系、資管系和法律科技新創律果科技合作研發,使用NVIDIA支援的「Taipei-1」超級電腦算力執行。長春集團董事長林顯東致詞表示,本次合作無合約約束,各間公司各自出動工程師合作,成功催化Project TAME的誕生。

Project TAME已於7月1日正式上線,以開源形式邀請更多企業加入,期待能創造出屬於台灣產業界的「AI應用生態系」。這項專案的特點在於,使用Meta的Llama-3模型作為基底,加入台灣文化與產業資訊微調,預訓練近5千億個字(token),含括法律、石化、電子製造、醫療服務、流行文化等產業知識,現為70B參數模型(Llama-3-Taiwan-70B)。

最台AI,懂發票載具、律師證照考超車GPT

在記者會上展示,Project TAME在駕照、法律考試、大學學測、導遊證照等,與台灣在地文化高度相關的測驗中,都表現優異。在39項綜合評測、近3千個題目中,Project TAME的分數超過所有模型,正確率相較第二名的Claude-Opus模型高了6.8%,亦比GPT-4o高了9.3%。

將TAME的基礎模型加入企業專業知識,可望打造「私有AI」

計劃主要發起人之一,和碩聯合科技新產品發展事業處暨人工智慧發展處處長蕭安助表示,本次專案合作歷經不到半年,屬於試驗性質(trial);他希望未來能找到更多業界夥伴,擴大這個生態圈,並發展出各自的AI應用。至於商模,現在並非以獲利為目標,希望先擴大規模。

在當天的展示中,律果科技執行長陳啟桐說明,英美的法律體系和台灣不同,且國外的AI語言模型,吸收較多簡體語料來訓練。使用AI查詢法律知識時,國外開發的AI語言模型,容易出現錯誤,「不標準化,導致花費太多算力,結果卻不如預期。」

律果科技使用Project TAME的模型,全面使用繁體中文和台灣的教材,訓練出台灣法律專屬的大型語言模型,加入搜尋分析功能(RAG資料庫),即可做到「解決不同公司、特定的法律問題」。他們的目標是使用TAME打造台灣第一個法律專屬的代理模型。

企業使用TAME訓練自家AI模型,導入成本大幅降低

有了Project TAME的基礎模型,各企業進行訓練、微調,只需要花費1,600萬的成本及大約4小時進行1次迭代。相較企業從零開始自行訓練,降低23倍導入成本、165倍導入時間,可大幅加速企業導入私有LLM模型的競爭力。亞太智能科技執行長吳伯翰引述戴爾電腦研究指出,未來有超過7成企業擁有私有的生成式AI工具。TAME模型可望成為台灣企業擁有私有AI的重要墊腳石。


責任編輯/周岐原

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章