金融競爭已從單純的效能比拚，轉化為對系統的駕馭能力。如同清代票號重塑了金融信任，演算法正重新定義新信任基礎。
近年來，人工智慧正從「工具型AI」逐漸邁向「代理型人工智慧」（AI代理）。近期在一些AI社群實驗（如Moltbook）與AI管家系統（如OpenClaw）的測試中，研究者觀察到一個頗具啟發性的現象：當多個AI代理在同一環境中互動時，它們除了能各自執行任務，例如訂機票安排行程、回覆郵件或打電話安排會議，還會透過社群互動逐漸形成某些共享規則。部分AI代理甚至在討論過程中出現類似「集體信念」的行為模式，彼此遵循某些策略或行動邏輯。從技術角度來看，AI代理當然沒有真正的意識或宗教信仰，但這些實驗揭示了一個值得金融業深思的現象：當大量AI代理長期互動時，它們的行為可能逐漸收斂，形成某種穩定的行動規則。
上述現象若發生在金融市場，其意義將遠遠超過單純的科技創新。金融市場的運作，本質上是一套制度安排的結果。交易所的撮合規則、銀行監理制度，以及資訊揭露與會計制度，都是為了在效率與穩定之間取得平衡而建立的制度基礎。在金融發展的歷程中，其實已經多次出現「模型主導市場」的情況。例如，2010年美國股市曾發生著名的「Flash Crash」（閃電崩盤），在短短幾分鐘內，道瓊指數暴跌近千點後又迅速回升。事後調查顯示，部分原因正是多個演算法交易系統在極短時間內對相似市場訊號做出同步反應，形成連鎖交易效應。
由於AI代理不只是執行固定策略，而是能夠持續搜尋資訊、與其他系統互動並動態調整決策。當大量AI代理同時參與金融市場時，它們之間的互動可能逐漸形成某些穩定的行為模式，而此「集體行為」（Crowded AI Trades）所帶來的系統性風險，可能比過去更加難以預測。例如，在高度電子化的證券市場中，不同機構的交易系統往往會觀察相似的市場訊號，像是價格動能、訂單紀錄的掛單情況或交易量變化。當許多AI系統同時根據這些訊號做出反應時，市場中便可能出現同步買入或賣出的交易模式。換言之，當AI代理逐漸具備自主學習與互動能力時，市場中的部分決策可能不再由人類與機器協同完成，而是由AI代理之間的互動所塑造。這種現象將形成一種新的制度型態：「演算法制度」，亦即市場中的部分運作規則，可能不再完全由人類設計，而是在演算法互動中逐漸形成。
（相關報導：
金融熱議》全球牛市氣數已盡？地緣戰爭、失業率上升、油價飛漲；AI再強，市場也難逃修正？
｜
更多文章
）
如果金融市場逐漸出現由AI代理行為塑造的制度，金融治理將面臨新的挑戰。首先，制度透明度可能下降。相較於傳統制度通常有明確文件（例如法律或交易所規則），AI代理行為形成的制度則可能隱含在演算法互動之中，使市場參與者難以理解市場行為的真正原因。其次，如果大量AI代理系統使用相似模型與資料來源，其決策可能趨同。在正常情況下，這可能提高市場效率，但在極端情況下也可能放大市場波動。最後，制度演化速度可能加快，人類制度通常需要時間制定與修改，但AI代理行為模式可能在短時間內迅速變化，使監理制度面臨技術快速演進所帶來的挑戰。
面對AI代理可能帶來的制度變化，金融業與監理機構需要新的治理思維。首先，金融機構必須更深入理解AI代理系統的行為模式。與傳統金融模型不同，AI代理可能在市場互動過程中持續調整策略，因此監理機構與金融機構需要透過模型監測與資料分析，觀察不同AI代理之間的互動特徵。近年來，英國金融行為監管局（FCA）與新加坡金融管理局（MAS）在金融科技監理沙盒中，已開始測試AI代理系統在不同市場情境下的行為反應。例如監理機構可模擬市場波動或流動性壓力情境，觀察多個自動化交易或決策系統是否在特定條件下出現過度同步的交易行為（如同時大量拋售資產或快速撤出流動性）。這類測試主要著眼於「系統層級」的風險，目的在於及早識別AI代理系統互動可能帶來的市場不穩定性。
其次，在模型層級上，金融機構也需要建立更完整的AI代理治理架構，其中最重要的一環是模型風險管理。由於AI代理具有一定程度的動態適應能力，風險管理方式也必須從傳統的「事前驗證」轉向「持續監測」。例如一些監理機構近年已開始要求金融機構進行所謂的「對抗性測試」（Adversarial Testing），刻意在模擬環境中向AI代理系統輸入不完整或具有誤導性的市場訊號，如極端的市場情緒或異常交易資料，藉此觀察系統是否會產生過度反應或非預期的交易行為。若系統偏離預設風險範圍，金融機構便可透過預先設計的自動停損或交易限制機制，即時介入控制風險。
第三，在AI代理決策監督機制的設計上，金融機構仍需建立清楚的「人機協同」問責體系。即使AI代理能夠自主執行部分決策，其最終責任仍必須由人類承擔。因此，許多國際金融機構已在內部治理架構中建立「模型負責人」（Model Owner）制度，要求每一個重要的AI模型或自動化系統都必須指派明確的管理責任人。當AI代理被授權執行自主交易、資產配置或信貸審核時，相關決策仍需由特定主管負責監督與風險控管。另一方面，監理機構本身也逐漸利用AI代理技術強化監理能力。例如新加坡金融管理局已開始利用AI代理工具分析交易資料與資金流向，以更快速偵測潛在的洗錢或市場操縱行為。
最後，由於AI代理的決策高度依賴資料輸入，因此資料治理也成為AI治理的重要基礎。在AI代理互動日益頻繁的市場環境中，資料治理的核心在於確保資料來源的可追溯性。為此，許多金融機構開始建立「資料血緣」（Data Lineage）追蹤機制，不僅記錄資料存放位置，更完整追蹤資料從原始來源到最終決策的處理過程。例如，在信貸審核過程中，若AI系統拒絕某一客戶申請，資料血緣系統可以追溯該決策所依據的資料來源，確認是否使用了過期資料、錯誤資料或未經授權的資訊。一旦資料來源出現問題，金融機構也能迅速定位相關系統節點並修正錯誤。
要理解制度如何隨技術變遷而演化，歷史上其實已有許多案例。例如清代山西商人發展出的「票號」制度，當時跨地域商業交易迅速增加，但銀兩運輸成本高昂且風險極大。票號透過匯票制度，使商人能在不同城市兌付資金，將金融信任從實體銀兩轉移到商號信用與帳冊紀錄。從制度經濟學角度來看，票號制度本質上是一種降低交易成本並重塑信任機制的金融創新。今日AI代理在金融市場中的崛起，某種程度上也在推動類似的制度演化。在票號時代，金融信任建立在商號聲譽之上；而在AI代理時代，金融信任可能逐漸建立在演算法之上。
＊作者為陽明交通大學資訊管理與財務金融學系專任教授、華南金控獨立董事，本文選自194期台灣銀行家雜誌，授權轉載
