加入人為校正或監督 可提高模型準確度
第二,缺乏人為校正。舊式的機器學習,通常有一道程序是人為監督校正,在訓練階段,告訴它什麼是好的、什麼是不好的。大型語言模型剛應用時,它的優點就是強調高度自動化自我學習,但美國科學家在應用時發現,使用100億個參數,然後增加到500億個參數,模型效益竟然沒有提升多少,最後發現仍須有技巧的加入人為校正,才能提升模型準確度。
人工智慧演算法是建立在過去的數據基礎上,因此它們可能無法總是解釋不可預測性或異常情況,如果沒有人類校正,人工智慧系統可能會做出愚蠢或昂貴且難以逆轉的判斷,這也難怪美國電動車大廠特斯拉雇用了一群人,來為訓練AI模型的影像進行標籤註記。
第三,網路風險。網路犯罪針對金融業已不是新鮮事,導入新的技術,如人工智慧,也可能會產生新的漏洞,如果沒有充分的風險意識,這些漏洞可能會被不良行為者利用,例如美國第一資本(Capital One)事件,人工智慧系統可能會錯誤地洩漏敏感的客戶訊息,從而造成財務損失和企業品牌損害。
第四,缺乏透明度。這也是舊式機器學習、類神經網絡模型應用時代,早就被懷疑之處,人工智慧無法複製一模一樣的結果,演算法經常像黑盒子一樣運行,這意味著它們會做出判斷,而不會為結果提供明顯的解釋或原因,例如模型拒絕了A而選擇貸款給B,卻說不出任何理由,隨著人工智慧在銀行業的使用不斷增加,了解這些選擇是如何做出的,至關重要。
AI模型跑出結果 使用者可能永遠不知理由為何
第五,現有法令限制。許多國家的銀行在導入大型語言模型、生成式AI模型運用時,都可能遇到相同的問題,民營業者步伐太快,以至於當地金融監理機關來不及反應,還沒有提出新的管理架構,因而限制了業者開發新型態業務的可能性,喪失商機。目前導入人工智慧功能的銀行,仍持續注意確保人工智慧系統遵守資料隱私、反洗錢和消費者保護項目。
第六,投資新設備與人員訓練。銀行業導入人工智慧系統需要大量的技術支援和資源,要能成功,就得整合和維護人工智慧系統,以及對基礎設施的投資,在硬體上、軟體上都需要投資,一些資訊人員、主管必須受到新的教育訓練,不足或缺乏技術專業知識可能會導致系統故障或效能低下,反而阻礙人工智慧能發揮的效益。
銀行業和大型醫院有時相當類似,必須肯投資新型設備來提升品質與效率,早期銀行投資網路設備、資料庫設備及大數據模型。醫院則是投資最新的手術設備、治療腫瘤的質子機、達文西手術台等等,管理當局必須清楚發展方向並適時的大筆投資。