生成式AI浪潮橫掃全球，應用範圍擴大滲透到各領域，但也引發資安與準確性等隱憂，為確保AI安全與信賴度，對此工研院今（29）日宣布建立台灣首座「人工智慧（AI）測試實驗室」，全方面保障產業客戶的語言模型能夠安全可靠地在各個領域穩定運作。
語言模型是生成式AI重要核心，然而模型也可能因數據偏差或失真，導致產生錯誤或不當資訊，甚至在處理敏感數據時更有資安風險存在；因此儘管生成式AI當紅，語言模型的開發和部署還是得小心謹慎，以確保AI輸出結果準確、穩定且可靠。
工研院表示，AI測試實驗室參考國際可信賴AI的相關框架和標準，將透過AI產品與系統評測中心（AIEC）的專家以及技術委員會開發「可信任語言模型評測工具」，可提供自動化語言模型測試方案，包含準確性、公平性、可靠性、隱私及資安等方面。
工研院強調，AI測試實驗室的主要目標是協助國內廠商評估及改進語言模型，以確保語言模型、AI應用能在各種不同場景中保持穩定和可靠性，同時滿足企業和使用者需求。
工研院量測技術發展中心執行長藍玉屏指出，隨著生成式AI廣泛滲透到各個領域，對AI模型進行可信任性的測試與評估變得至關重要，工研院為此特別打造這個針對語言模型提供評測工具開發和導入的AI測試實驗室。
為了加強國際合作，工研院與法國國家計量院（LNE）簽署了合作協議，針對AI進行國際合作與技術交流，幫助台灣的AI評測技術與國際接軌。
更多風傳媒獨家新聞：
