台灣人工智慧實驗室盤點 2024年台灣生成式AI聯盟的3大重點成果
1.全球率先發展淨零碳排、永續發展的聯邦式AI
國際科技大廠發展生成式AI用電需求驚人，相較於傳統資料中心運作需更多電力。國際能源總署（IEA）指出，AI資料中心數目前約佔全球電力消耗的 1%，其年電力消耗約為家庭 IT 設備，例如電腦、手機和電視總耗電量的一半。
在美國科技巨頭競相投資綠電與核電技術之際，台灣人工智慧實驗室率先倡議AI發展永續淨零。有別於耗能的大型語言模型，台灣FedGPT是專門為針對企業需求，高效率、高準確度的輕量企業內部模型。以金融GPT為例，使用繁體中文驗證集「TMMLU+」檢測各大 GPT 模型的繁中金融知識表現，FedGPT Pro 專業版以 34B 參數超越 70B 的 TW-LLama3 和 LLama3.1-405B 大模型。啟用 RAG 功能後，FedGPT Pro 更勝 GPT-4o的結果。
此外，採用聯邦式資料治理的模式，無須重複儲存、應用資料，企業可以運用內部既有的資料中心即可結合內部資料建立企業專屬的FedGPT，減少興建集中式數據中心所造成的重複儲存與能源浪費。
2.國際合作可信任生成式AI技術、免除科技壟斷
本次參與論壇的23國，包括台灣友邦貝里斯、聖露西亞、巴拉圭、馬紹爾群島、瓜地馬拉、吐瓦魯；以及約旦、索馬利蘭、波蘭、越南、紐西蘭、盧森堡、斯洛伐克、立陶宛、芬蘭、加拿大、韓國、烏蘭巴托、歐盟、奧地利、印尼、奈及利亞、日本等外國駐台代表處，共同探討淨零永續跟可信任的AI 。
杜奕瑾強調，聯邦式FedGPT是符合數位人權隱私的生成式AI，「結合AI算力的分散式，FedGPT技術跟訓練方法傳授給你，資料你留在原地不用給我們」。在人工智慧法規立法高度重視資料治理安全的領域，組織不必上傳自己的機敏資料至機構外，即可透過聯邦式生成AI平台訓練自家的專屬模型。機敏資料不出資料所有人的落地機型式，更符合國家和企業資料安全。友邦和國際盟友，可用台灣發展的可信任人工智慧流程和平台建立自己的主權模型而避免把資料、客戶、商業機密輸出。
2024年，台灣人工智慧實驗室已在多國建立可信任的聯邦式服務，包含全球知名的紐約大學朗格尼醫學中心（NYU Langone Health）、邁阿密癌症中心（Miami Caner Institute）已經完成合約簽訂、進行第一階段聯合測試。以國家級人工智慧影像輔助分析系統、串接落地式醫療FedGPT，針對腫瘤科病人，有效輔助醫師精準治療，自動生成治療建議報告。
