批監管比牛奶、洗衣機還鬆　微軟總裁籲建立「緊急煞車」機制　AI技術失控風險真的劇增嗎

微軟（Microsoft）總裁布萊德．史密斯（Brad Smith）在接受英國廣播公司（BBC）專訪時指出，全球針對人工智慧（AI）的法規監管力度嚴重不足，目前AI所面臨的安全規範甚至比市售牛奶或洗衣機還要寬鬆。他強調，建立全球統一的AI安全守則已刻不容緩，其中包括系統遭惡意AI代理（AI Agent）入侵時的受害者通報機制，以及賦予開發者停止系統運作的「緊急煞車」開關。

史密斯表示，各國政府應透過法律明確規定，當AI系統出現異常或發生安全事故時，相關企業必須提出官方事故報告。他直言：「我們對於其他實體產品早已具備成熟的安全管理經驗，應以此為基礎，研擬如何將相關機制套用於人工智慧領域。在現行法規下，家中的洗衣機受到的安全監管都比AI更多；走進雜貨店，每盒牛奶也都必須符合嚴格的安全標準與衛生檢查。」

這項呼籲發表之際，正值頂尖AI開發企業負責人相繼對技術失控風險發出警訊。包含OpenAI執行長山姆．阿特曼（Sam Altman）與Anthropic執行長達里奧．阿莫迪（Dario Amodei）均公開主張，開發者應適度調節先進AI技術的演進速度，以確保模型始終處於人類掌控之中。阿特曼與阿莫迪皆建議，應允許第三方獨立評估機構獲得類似內部員工的存取權限，以實時監測模型的技術能力與潛在漏洞，並向公眾發布評估結果以提升透明度。

針對各國的監管政策，史密斯特別提到，英國由前首相里希．蘇納克（Rishi Sunak）推動成立的「AI 安全研究所」（AI Security Institute），使英國在引領全球AI規範方面具備獨特優勢。他分析，美國華府官員對於英國所採取的監管途徑，評價與歐盟（EU）依據風險等級劃分監管程度的架構截然不同。

目前英國AI安全研究所係透過與各大主要開發商簽署的自願性協議，在先進模型正式部署前取得測試權限，藉此評估技術能力及其可能帶來的潛在風險。英國AI事務政務次官卡尼什卡．納拉揚（Kanishka Narayan）對此表示，若現行的自願性審查制度未來被證明無法有效防範風險，英國政府將不排除採取強制性的立法手段來監管高階模型。

責任編輯：許詠翔

更多風傳媒獨家新聞：

‧AI淪犯罪幫兇　如何預見數位金融「5大破口」　OpenAI、Anthropic急推演預防「全面性危機」

‧中國駭客冒充美國AI專家發送釣魚信　連白宮都中招　專家：意在「AI政策制定」
（相關報導： 許詠翔專欄：連美軍都難擋F-16V Block70魅力，為何出現四代半戰機文藝復興 ｜ 更多文章 ）

‧DeepSeek、月之暗面都被點名　美國FBI聯手國安局、網安局指控中國AI「偷竊」　北京再度全盤否認