AI淪犯罪幫兇　如何預見數位金融「5大破口」　OpenAI、Anthropic急推演預防「全面性危機」

美國人工智慧（AI）產業正為可能發生的大規模資安災難預作準備。業界人士警告，隨著AI模型能力持續提升，駭客可能利用相關技術發動更複雜、更具破壞力的網路攻擊，嚴重時恐導致銀行系統癱瘓、網路服務中斷，甚至影響電力及其他重要公共設施的正常運作。部分產業人士認為，未來一年內就可能發生足以引發全國性危機的重大事件。

根據美國媒體Axios報導，OpenAI、Anthropic等主要AI業者的高階主管，正設想一旦AI技術引發大規模災難，企業將如何面對社會輿論反彈、政治責任追究，以及政府可能採取的強力監管措施。

業界人士擔心，一旦發生造成重大經濟損失或影響民眾日常生活的AI資安事故，社會對人工智慧的態度可能迅速轉趨負面，進而要求聯邦政府對AI產業實施更嚴格的限制。這類事件也可能使美國總統川普政府目前相對寬鬆的AI監管方向受到挑戰，並讓OpenAI執行長阿特曼（Sam Altman）、Anthropic執行長阿莫迪（Dario Amodei）等產業領袖面臨更嚴格的外界檢視。

面對潛在風險，OpenAI表示，公司已透過內部準備工作，討論各種可能發生的危機情境，並讓相關團隊演練應對方式。

OpenAI發言人向Axios表示，公司會進行準備度演練，由不同團隊針對各種潛在情境展開討論並實際推演。這些情境並非被視為必然發生的事件，而是希望藉此為不同情況做好準備。

美國媒體極限新聞網（Newsmax）曾就相關問題聯繫Anthropic，但報導刊出時尚未獲得該公司立即回應。

Axios指出，不少頂尖AI研究人員認為，重大資安事件發生的可能性值得高度關注，風險來源主要包括兩個方向：一是具備自主執行能力的AI代理程式（AI agents）脫離原本設定的控制環境，造成非預期行為；二是網路犯罪者利用功能日益強大的AI模型，提高攻擊效率、擴大攻擊規模，或降低發動複雜網路攻擊所需的技術門檻。

AI代理程式可以依照指令執行多個連續任務，部分系統還能自行規劃步驟、操作工具及根據結果調整行動。這些能力有助於自動化工作流程，但如果系統權限管理不當、受到惡意指令操控，或在缺乏有效監督的情況下執行高風險任務，也可能增加資安管理的難度。

另一方面，駭客也可能利用AI協助分析目標系統、撰寫程式碼、尋找漏洞或處理竊取所得的資料，使原本需要較高技術能力才能完成的部分工作變得更容易。對企業與政府機構而言，如何辨識並阻止這類攻擊，已成為AI快速發展下的重要資安課題。

近期針對韓國金融機構的駭客行動，進一步凸顯AI工具可能被犯罪者用於網路攻擊及資料竊取。

根據資安公司CrowdStrike的資訊，一名被懷疑與中國有關聯的駭客，在針對韓國金融機構的行動中使用多種AI工具，其中包括中國開發的DeepSeek。這場行動涉及竊取數以萬計銀行客戶的相關資料。 （相關報導： 許詠翔專欄：連美軍都難擋F-16V Block70魅力，為何出現四代半戰機文藝復興 ｜ 更多文章 ）

報導另指出，攻擊者據稱還使用Anthropic開發的Claude Code，尋求如何為竊取所得資料尋找買家的協助。

這起事件顯示，AI工具可能不只被用來協助攻擊過程，也可能被犯罪者運用於攻擊後的資料處理與非法交易。對金融機構而言，風險不僅在於客戶資料遭到竊取，也包括個人資訊遭轉售、後續詐騙、身分冒用及其他衍生犯罪。

不過，使用AI工具並不等同於AI本身自主發動攻擊。相關事件仍須區分攻擊者的實際操作、AI工具提供的協助，以及系統是否出現自主行動或失控等不同情況。CrowdStrike所揭露的案例，主要呈現駭客利用AI工具從事資安犯罪的風險，不能單憑此案認定AI已能獨立發動足以癱瘓整體金融體系的攻擊。

除了技術風險，AI業者也開始評估重大資安事故可能引發的政治後果。

Axios報導指出，部分產業高層正為民主黨在美國期中選舉後取得國會控制權的情境做準備，並擔心若屆時發生嚴重的AI資安攻擊，國會可能迅速推動更強硬的監管措施。

這類立法行動可能涵蓋限制高階AI模型的開發與部署、要求企業建立更完善的風險管理制度，或對特定AI系統施加額外的安全要求。若重大事件造成銀行、金融市場或關鍵基礎設施受到嚴重衝擊，原本在AI監管問題上立場不同的政治人物，也可能因選民壓力而重新調整態度。

然而，AI產業人士認為，即使國會希望迅速立法，實際推動仍可能面臨不少障礙。其中包括部分議員對AI技術及其運作方式缺乏深入了解，以及AI產業已投入數十億美元建設資料中心、運算設備與其他基礎設施，形成龐大的經濟利益與政策考量。

產業高層也擔心，若政府在重大事故發生後採取範圍過廣的限制措施，可能影響AI相關投資、企業營運與整體經濟活動。監管措施若未能充分區分不同模型的能力、用途及風險，也可能使合法的研究、開發與商業應用受到不必要的限制。

另一項難題在於，部分AI模型可以公開取得或自行部署。即使美國政府對大型企業開發的高階模型設下嚴格限制，其他已公開釋出的模型仍可能被下載、修改或在不同環境中運作，使執法及風險控管更加複雜。

隨著攻擊者運用AI的能力提升，資安專家愈來愈重視以AI技術強化防禦的必要性。

AI系統可以協助分析大量網路流量、辨識異常行為、追蹤可疑程式碼及加快威脅調查速度。若攻擊者利用AI自動化部分攻擊流程，防禦方也可能需要使用AI系統進行即時監控、威脅辨識與應變，以縮短發現攻擊和採取防護措施之間的時間差。

不過，AI資安防禦並非只要導入模型就能解決問題。防禦系統本身也可能出現誤判、遭到操縱，或因權限配置不當而產生新的弱點。企業仍須搭配存取控制、網路隔離、人工監督、備援機制及事故應變程序，才能降低單一系統失效造成的衝擊。 （相關報導： 許詠翔專欄：連美軍都難擋F-16V Block70魅力，為何出現四代半戰機文藝復興 ｜ 更多文章 ）

據Axios報導，部分AI企業已進行最壞情境演練，並試圖在重大事故發生前，先向國會議員說明AI技術的運作方式、可能造成的風險，以及不同監管措施的實際效果。業者希望透過事前溝通，讓政策制定者在危機發生時能更充分理解技術限制，避免在資訊不足的情況下倉促採取可能產生重大影響的措施。

在美國國會及政策圈，已有部分民主黨人士提出更嚴格的AI監管構想，包括禁止開發或部署超級智慧AI（superintelligent AI），以及暫時停止先進AI技術的進一步發展。

超級智慧AI通常指能力可能在多個重要領域超越人類的AI系統，但這個概念的具體定義、判定標準及可能實現的時間，目前仍存在爭議。對於這類系統是否可能造成難以控制的風險，研究人員與產業人士也有不同看法。

支持限制措施的人士主張，若AI能力持續提升，政府應在技術造成不可逆的傷害前建立安全界線；反對過度限制者則可能認為，全面禁止或長期暫停開發，將影響美國的科技競爭力，也未必能阻止其他國家或非官方組織繼續發展相關技術。

除了直接限制開發，也有部分獲得跨黨派支持的提案，主張要求先進AI系統具備類似「緊急停止開關」（kill switch）的安全機制，以便在系統出現危險行為時，由開發者或管理者中止運作。

不過，專家對這類機制的實際效用仍抱持疑問。AI系統可能分散部署於不同伺服器與運算環境，部分模型也可能被複製或修改。即使原始開發者能夠停止自己控制的系統，也不代表所有衍生版本或已被外部取得的模型都能同步關閉。

此外，緊急停止機制能否有效運作，也取決於系統架構、管理權限、部署方式及事故發生時的實際情況。若攻擊者已取得系統控制權，或AI服務依賴多個彼此連結的外部元件，單一停止機制未必能阻止所有後續影響。

一名國會幕僚向Axios表示，儘管AI監管存在技術與政治上的分歧，如果真的發生造成重大損害的災難性事件，仍可能迫使兩黨展開合作。這名幕僚以2008年金融危機及COVID-19疫情期間的政策應對為例，指出當危機對社會及經濟造成廣泛衝擊時，原本立場不同的政治陣營可能面臨更大的合作壓力。

責任編輯：許詠翔

更多風傳媒獨家新聞：

​‧中國駭客冒充美國AI專家發送釣魚信　連白宮都中招　專家：意在「AI政策制定」​

‧「不是什麼『蒸餾』、就是偷」　貝森特痛批中國AI直言要用這招反擊
（相關報導： 許詠翔專欄：連美軍都難擋F-16V Block70魅力，為何出現四代半戰機文藝復興 ｜ 更多文章 ）

‧DeepSeek、月之暗面都被點名　美國FBI聯手國安局、網安局指控中國AI「偷竊」　北京再度全盤否認