OpenAI執行長山姆．奧特曼（Sam Altman）於美國聯邦準備理事會主辦的銀行監理研討會上發出嚴重警告，指出惡意人士可能利用先進的AI語音合成技術，突破現有的數位語音身分驗證系統，進行大規模金融詐騙攻擊。奧特曼在會議中明確表達對此議題的深度憂慮，認為這將構成金融業前所未見的重大威脅。
該研討會由聯準會監理副主席蜜雪兒．鮑曼（Michelle Bowman）主持，聚焦討論金融科技發展對銀行監理帶來的挑戰。奧特曼在發言中特別針對目前部分金融機構採用的語音驗證系統提出質疑，指出這些系統允許客戶僅透過語音確認身分即可執行高額資金轉帳作業，存在明顯的安全漏洞。
犯罪集團製造假冒聲音的技術門檻大幅降低
「我對即將爆發的大規模詐騙危機感到非常擔憂。」奧特曼在會中直言不諱地表示。他進一步說明，隨著AI語音合成技術日趨成熟，犯罪集團製造假冒聲音進行身分驗證的技術門檻已大幅降低，這種攻擊手法很快就會被廣泛濫用。
奧特曼強調，製造足以欺騙現有語音驗證系統的假冒聲音，在技術上並非難事。「某些壞人遲早會釋出這種工具，這不是什麼難事，而且已經非常接近現實了。」他警告道。這項技術的普及化意味著金融機構必須重新檢視現有的身分驗證機制，以防範可能的大規模攻擊。
事實上，關於AI語音深偽技術對金融安全構成威脅的警訊，並非首次浮現。2024年6月，全球規模最大的反詐騙專業組織「註冊舞弊稽核師協會」（Association of Certified Fraud Examiners, ACFE）即在其研究報告中指出，當前的人工智慧技術已具備「以驚人準確度」複製特定個人聲音特徵的能力。
ACFE在該份報告中詳細分析了語音深偽技術的運作原理：「這項技術運用高度複雜的演算法與神經網路架構，能夠深度分析並精確模仿目標對象的說話語氣、節奏與語調變化。」報告指出，儘管深偽技術最初主要應用於影像造假領域，如製作假冒名人或政治人物的偽造影片，但音訊深偽技術的威脅程度已急遽上升。該協會進一步警告，若AI生成的合成語音遭到惡意濫用，可能導致未經授權的金融交易執行，以及其他涉及身分冒用的重大安全風險。這些風險不僅限於個人帳戶，企業及機構帳戶同樣面臨威脅。
AI大幅縮短了網路攻擊的準備時間
在今年稍早舉行的2025年RSA資訊安全大會中，來自全球各地的數萬名資安專家與科技業從業人員齊聚舊金山，深入探討人工智慧技術如何快速改變網路攻防生態。會議中多位專家均指出，AI技術的雙刃劍特性正為網路安全領域帶來前所未有的挑戰。
國際知名顧問公司麥肯錫（McKinsey & Company）在相關研究中指出，人工智慧技術不僅大幅縮短了網路攻擊的準備時間，使駭客能在短短一個小時內突破傳統資安防線，更為犯罪集團提供了前所未有的攻擊規模擴展能力與精準度提升機會。這些進步使得網路犯罪分子能夠製造出極具說服力的客製化攻擊手法。
麥肯錫在2025年5月發布的最新報告中進一步闡述：「從製作高度擬真的釣魚電子郵件、建構仿冒網站、生成深偽影片內容，到透過AI技術植入惡意指令或程式碼，這些先進工具讓網路罪犯能夠有效繞過傳統的威脅偵測機制，打造出個人化且真假難辨的複合式攻擊策略。」
FTC著手建立一系列預防性措施
面對AI語音偽造技術可能帶來的威脅，美國聯邦貿易委員會（Federal Trade Commission, FTC）已著手建立一系列預防性措施。FTC在2024年通過新的管制規範，明確禁止任何冒充政府機關與企業實體的行為，並針對新興的AI詐騙手法制定相應的法律框架。
此外，FTC還主動發起「聲音複製挑戰賽」（Voice Cloning Challenge）計畫，向全球技術社群徵求創新解決方案，旨在開發能夠有效阻止語音生成軟體遭到不當使用的防護技術，以保護消費者免於遭受AI語音詐騙的侵害。該挑戰賽吸引了眾多科技公司與研究機構參與，顯示業界對此議題的高度重視。
責任編輯：許詠翔
更多風傳媒獨家新聞：
