失控的人工智慧：Gemini三度窺秘越軌，AI失控大禍將臨？

​繼OpenAI、Anthropic和Meta之後，谷歌AI Gemini在網路安全能力測試中，通過猜測登錄訊息入侵了多個系統。Anthropic執行長阿莫迪呼籲放慢人工智慧的發展速度。​

谷歌周五（9月18日）表示，該公司面向消費者的人工智慧模型Gemini在網路安全能力測試中，通過猜測登錄信息入侵了多個系統。

這是一系列涉及「失控人工智慧」的網路安全事件中的最新一起，引發了對這項技術的安全擔憂。

繼OpenAI、Anthropic和Meta之後，這家互聯網巨頭成為第四家被發現其程序出現此類行為的AI開發商。

相關事件發生於5月，谷歌7月發現，但直到《華爾街日報》提出問詢後才對外公開。

據《華爾街日報》報導，Gemini共有三次侵入其他公司計算機事件，涉事公司名稱未予披露。

其中一次，該人工智慧模型猜出了密碼，從而進入一個受保護的系統；另外兩次，它在一個數據庫中找到了登錄信息。

谷歌安全工程副總裁希瑟·阿德金斯（Heather Adkins）在一份聲明中對法新社表示，在一次標準評估中，該模型在網上找到了公開信息，並猜出登錄信息訪問它認為屬於測試範圍的網站。

阿德金斯說，在這三次事件中，模型都自行停止了；谷歌已確保三家相關機構獲知此事，並與其訓練合作方就測試流程調整開展了合作。

此前，Meta、Anthropic和OpenAI都報告過類似事件。隨著人工智慧代理自主性增強、並獲得訪問網路和電腦系統的權限，這些事件引發了關於必要防護措施的疑問。

ChatGPT開發商OpenAI的一款人工智慧模型，曾在今年7月的一次測試中逃出安全環境，意外侵入另一家人工智慧公司HuggingFace的計算機。

這促使競爭對手Anthropic復查了自己的測試運行，期間又發現了更多類似事件。Meta隨後承認，由於一家測試合作方的系統配置有誤，其人工智慧曾入侵另一家公司的計算機。

本月，Anthropic執行長達里奧·阿莫迪呼籲放慢人工智慧的發展速度。他在一篇博客文章中表示擔憂：一群自主運行的軟體系統（即人工智慧代理）可能在六到十二個月內接管整個網路，造成數十億美元的損失。

DW中文有Instagram！歡迎搜尋dw.chinese，看更多深入淺出的圖文與影音報導。 （相關報導： 待遇比肩教宗和赫魯雪夫！川普將赴機場迎接習近平，BBC回顧美中外交禮賓細節 ｜ 更多文章 ）

© 2026年德國之聲版權聲明：本文所有內容受到著作權法保護，如無德國之聲特別授權，不得擅自使用。任何不當行為都將導致追償，並受到刑事追究。