因預算經費的關係，司法院也表示，短期內並不會建置如同ChatGPT大型語言模型的生成式AI系統與資料庫，「智慧化裁判草稿自動生成系統」僅是協助法官產生判決書例稿的輔助工具，強調最終核心審判權仍是在法官手上。
根據司法院的回應，「智慧化裁判草稿自動生成系統」屬於初階AI應用，與真正的生成式AI技術還有一段距離，釐清了大眾對於「AI法官」取代「人類法官」的疑慮。但AI應用是未來必然的趨勢，藉由此次事件與召開公聽會的契機，也正好開啟社會對於生成式AI技術在司法體系運用的討論。
在召開公聽會之前，司法院先根據「行政院及所屬機關（構）使用生成式AI參考指引」頒布「司法院使用生成式AI參考指引」草案，訂定了大方向原則，例如：AI判決只能輔助審判、使用者擁有自主權，以及系統建置時必須考慮風險管理等。
林俊宏律師表示，這份草案不僅仍有不足之處，且並未細分「建置」與「使用」兩部分不同階段的參考指引。他解釋：「國外將導入生成式AI技術分成兩個階段，第一階段是指引廠商如何『建置』系統資料庫，第二階段才是指引使用者『使用』系統。」建置系統資料庫需要具備資訊實作能力，並非司法人所擅長，政府部門通常外包給專業廠商執行。所以應該先針對外包廠商提出如何餵養資料、去資料識別化等建置系統的指引規範，第二步才是針對司法體系人士制定使用系統的參考指引。
「但司法院沒有將兩階段的參考指引分開制定，外包廠商要如何建置系統、訓練機制、資料來源等規範，從目前公布的草案裡是看不出來的。」林俊宏律師坦言。
資料庫模型應公開透明，避免AI偏差
對於系統建置的準則，司法院並未詳細說明其中的機制，僅針對民團擔心訓練不足的部分以新聞稿回覆：「本系統的訓練資料均已去識別化，不含當事人個資，並在訓練之後要求廠商銷毀；訓練資料包含起訴書及裁判書等資料逾10萬筆，應不至於有訓練資料不足的問題。」
但法律與社會脈動緊密連結，隨著時代演變，社會規範、法律判決也會轉換，「如果訓練資料使用的是早期判決，生成的結論一定會與當代法律觀念有所落差，造成系統模型偏誤。」林俊宏律師指出其中癥結點。
此外，法律觀念與時俱進，未來系統資料要如何更新？訓練資料關係到判決觀點，生成的判決是否會以主流族群──漢人、異性戀、男性為主要核心視角，忽略少數及弱勢族群的權益？以上這些問題都是需要謹慎考量，並訂定明確規範的關鍵，才能降低AI偏差的風險。
歐盟在今（2024）年初通過全球第一份針對AI系統進行規範與監管的《人工智能法案》，禁止存在偏見、侵犯人民隱私權的AI技術，涉及司法及人權領域的生成式AI技術，更被列為「高風險」等級，法案要求建置的系統模型需具有透明度，包括風險評估、監督準則等。
