一場發生在客廳裡的數位審判
晚上十點，你坐在客廳，電腦螢幕的光照在桌上的房貸申請資料上。
你已經準備了很久——穩定的工作、幾年的儲蓄，還有一個對未來的計畫。
你點下「送出申請」。
不到三秒，畫面跳出結果：「不予通過」
沒有面談，沒有解釋，甚至沒有任何可以詢問的對象。螢幕上只留下簡單的一句話：「系統評分不足」。
你開始懷疑，是收入不夠？還是負債比例過高？
但真正的答案，其實在一個你看不見、也無法理解的演算法之中。
過去，這樣的決策是由授信專員完成的。
他會審視你的收入、工作穩定性，甚至透過對話判斷你的還款能力。
但現在，人工智慧（AI）正快速進入金融業的授信評估、風險定價與決策核心。
相較於傳統依賴規則與人為判斷的模式，AI的高速運算與資料處理能力，確實大幅提升了效率與一致性。
然而，當決策權逐步交由模型主導時，一個關鍵問題開始浮現：如果AI做錯了決定，誰看得懂？又由誰負責？
當偏見被放大：三個已經發生的警訊
這並非理論上的風險，而是國際市場已經發生的現實。
首先，是備受關注的 Apple Card案例。
在相似財務條件下，有使用者發現女性獲得的信用額度顯著低於男性。問題並不在於刻意歧視，而是模型可能從歷史資料中學習到潛在偏差，並在自動化流程中被放大，形成難以察覺的系統性不公平。
其次，是醫療數據公司 Optum的預測模型。
該系統以「過去醫療支出」作為需求判斷依據，但這個設計忽略了一個現實：經濟條件較弱的族群，往往因資源不足而支出較低。結果，真正需要醫療資源的人，反而被排除在優先照護之外。
第三，是2010年的「閃電崩盤」（Flash Crash）。
在高度自動化交易環境中，大量演算法在極短時間內同步反應市場訊號，引發流動性瞬間收縮與價格劇烈波動。這並非單一錯誤，而是整個系統在缺乏監控與制衡下的連鎖反應。
這三個案例指向同一件事：當演算法進入關鍵決策，風險不再是個別錯誤，而可能被制度放大。
台灣的回應：制度已建立，落地才是關鍵
面對這樣的趨勢，我國主管機關已開始建立治理基礎。
金管會於2024年發布《金融業運用人工智慧指引》，採風險導向原則，提出六大核心面向：治理與問責、公平性、隱私保護、系統穩健、透明性與可解釋性，以及永續發展。
這些原則與國際監理趨勢一致，為金融機構提供了清晰方向。
但真正的挑戰在於：如何把「原則」，變成可以執行的「系統能力」。
四個關鍵能力：讓AI不只是聰明，而是可被信任
從實務角度來看，金融機構可優先建立四項核心能力：
第一，看得見（可觀測性 / Observability）
不能只看最終決策結果，而要持續監測模型輸入、運作狀態與資料偏移，確保系統沒有在不知不覺中「走偏」。
第二，說得清（可解釋性 / Explainability）
當AI做出影響個人權益的決策時，機構應能提供合理且可理解的解釋。這不僅是技術問題，更是金融服務的基本責任。若連機構本身都無法理解模型邏輯，決策風險將難以控管。 （相關報導： 虛擬資產打進金融體系，監管制度卻還活在過去！專家解析國際市場三大關鍵難題 ｜ 更多文章 ）
第三，查得到（可審計性 / Auditability）
