首例AI自主駭客攻擊 OpenAI證實自家AI Agent越獄入侵企業系統

2026-07-22 15:00
OpenAI與其生成式大語言模型ChatGPT生成之圖片。(美聯社)
OpenAI與其生成式大語言模型ChatGPT生成之圖片。(美聯社)

人類對於人工智慧(AI)的安全防線迎來衝擊,AI巨頭OpenAI日前對外證實,該公司內部發生一起「前所未有的資安事件」,一個正在接受測試的AI agent,在沒有人類外力干預之下,自主發起並利用漏洞,成功逃脫被嚴密控制的沙盒,與網路取得連結並竊取登入憑證,隨後還對一個AI開發者平台Hugging Face發動網路攻擊。

這也是首次記錄到人工智慧系統擺脫人類控制,自主執行真實世界網路攻擊的公開案例。

OpenAI向外媒表示,這次事件涉及多款前沿模型的組合,包含不久前發布的GPT-5.6 Sol,以及一款正在進行發布前安全測試的高階未公開模型。他們團隊為了評估語言模型,在面臨網路攻擊時是否存在潛在威脅,OpenAI刻意調低測試環境的資安防護層級,並指示AI agent嘗試進行模擬駭客攻擊。

OpenAI現任執行長奧特曼。(美聯社)
OpenAI現任執行長奧特曼。(美聯社)

然而,AI agent 卻出乎團隊預料之外,竟然自行找出沙盒隔離機制的設計漏洞,並「越獄」成功連上外網,甚至還竊取真實登入憑證,針對AI新創公司Hugging Face系統發起攻擊。

受害企業證實無惡意動機

雖然身為受害方,但Hugging Face執行長德朗格(Clément Delangue)透過社群發文表示,該公司在第一時間就偵測到外部發起的侵入。

「有鑑於極為複雜的攻擊手段,我們當時就懷疑,這次網路攻擊極可能來自頂尖的前沿實驗室。Hugging Face 一直與OpenAI保持密切合作,我們相信OpenAI絕無惡意。只是令人難以置信的是,這一切竟然是由AI自主發動的!」

奧特曼緊急赴華府簡報

這起事件發生的時間點極為敏感,因為OpenAI執行長奧特曼(Sam Altman)預計下週親赴華府,針對新一代AI模型的安全性,向美國政府高層進行簡報。事實上,當Anthropic開發出Mythos模型,其搜查偵測網路漏洞的能力,就已經讓不少國家開始感到憂慮。

中國國際供應鏈供應會的展覽背景。(美聯社)
中國國際供應鏈供應會的展覽背景。(美聯社)

OpenAI也給出警告,稱隨著AI模型能力愈來愈強,未來這類事件將變得更加普遍,他們也已向美國執法部門與主管機關通報事件全貌。 (相關報導: 「如果美國斷網,你國家的工廠還能動嗎?」《經濟學人》談美中科技戰:蓋機房比養AI大廠更重要 更多文章


今日精選
更多文章
土銀羽球隊林芝昀/許尹鏸勇奪日本公開賽季軍
不用對身分證!手搖飲免費喝「1步驟立刻兌換」,全台門市同步活動只到8/2
亞洲年輕人正大舉押注科技股:BBC解密Z世代投資狂潮,他們寧可忍受10%暴跌也不願錯過
黃國昌號召725上凱道食安遊行 批府院黨聯手蓋牌:卓榮泰下台負責
盤後快訊》台股大漲592點站回4萬4!AI、記憶體、PCB全面爆發,南亞科、緯穎漲停領軍
今年還會普發1萬?證交稅衝破3336億,立委喊普發現金,財政部最新回應
《燦如繁星》《這一秒過火》輸了!一追上癮暑期陸劇TOP10冠軍是它:偽兄妹甜虐交織,看一集就停不下來
謝賢過世留4億遺產,為何90%全給孫子、謝霆鋒只分到5%?專家曝背後3大原因
漢翔赴法茵堡航展傳捷報!深化合作美商Moog 國軍F-16、黑鷹跟這些機型都受益
行李箱沒買RIMOWA、萬國通路!內行推2款「耐摔防刮很輕、空間大好推滑順」,耐用10幾年沒壞
Ainos Smell AI 累積收集逾6.13億筆工業氣味資料 加速布局Physical AI
台灣知名景點沒落了!「雜草叢生、展示品剝落掉漆」,遊客嘆:10年前還很熱門
澎湖不只有跨海大橋!搭台灣好行沿著東海岸慢慢玩,一天收集摩西分海、百年聚落、戰地坑道與療癒海景
日本美國都輸了!2026全球最強護照排名冠軍出爐,台灣擠下中國排名曝光
澤倫斯基這次輸給民意!拔掉改革派防長惹眾怒:少將德拉帕蒂臨危受命,接掌烏克蘭總司令
再提案刪無人機預算挨轟 國民黨團反嗆:黨版草案2400億預算是政院版6倍
巴紐外長宣布關閉我駐處有內情?林佳龍稱遭突襲:專業外交官有不同意見
澎湖好行》一路向海玩遍澎湖南岸 搭台灣好行媽宮澎南線追風櫃巨浪、山水白沙與夕照
致癌油延燒23天!5700噸問題油去哪了?衛福部認了:極限僅能回收3成
公私協力關懷弱勢 嘉義縣獲贈1650床薄被及偏鄉營養品
索資佛地魔又進化?她轟新招根本索魂公務員:「5年用多少影印紙」算緊急問政?
中鋼跌到18元手癢想撿?專家曝3大關鍵訊號:春燕還在路上,別急著加碼
第56屆全國技能競賽7/29開打!桃分署技職精銳出征,力拼最高榮譽
豪宅廚房不只拚顏值 艾美廚衛304奈米壓花水槽搭德國Carysil柯瑞龍頭搶攻建案與高端住宅
澎湖好行》第一次玩澎湖就搭這班 台灣好行北環線收進跨海大橋、小希臘與百年古厝
中聯致癌油風暴,中央、地方誰的鍋?作家揪衛福部這段話「自爆」:盧秀燕笑了
迎接「2026大稻埕夏日節」 台北晶華邀旅人賞煙火、玩手作 打卡再享專屬好禮
菸品警示圖文再修法基層業者憂辨識更難,盼重新公開討論
今日(7/22)重點新聞!致癌油最新》全聯、大全聯宣布退款!/陸客大軍要來台灣了/2類公職人員7/1調薪、明年再增4%
川普拒絕再談,預告炸毀伊朗「地下堡壘」!美軍第11天空襲:全球能源要道兩頭被封,油價飆破92美元
澎湖好行》搭台灣好行玩遍澎湖東海岸 追摩西分海、走訪永續聚落再探戰地秘境
宏于電機攜手北科大簽署產學合作 MOU,聚焦 AI 算力中心智慧電力與能源效率
天氣/紅霞颱風最新動態懶人包:生成時間/預測路徑/對台影響一次看 這2天雨勢最大
棄車保帥?被黃國昌爆料「本周五下台」 食藥署長姜至剛回應了
劉宇寧王一博輸了!2026年最強陸劇男主角「冠軍是他」:演技好顏值超高、收視品質保證
台股強彈該不該趁機賣?專家曝「4個交易日」加碼千萬:當初還被說賣飛
放行中聯19批油重新上架惹議 石崇良掛保證:這些產品都安全
不是中信、兆豐!13家金控6月獲利大公開,冠軍「單月大賺94.9億元」,穩坐龍頭寶座
張凌赫肖戰都輸了!戰損造型最帥陸劇男神TOP10冠軍是他,染血深情眼神太深情、看一眼就淪陷
由愛生恨?果汁加老鼠藥三度毒害澳洲男友 台寡婦殺人未遂一審判11年2月
全聯哪款橄欖油最好用?內行推3品牌「清爽少油煙、耐高溫不易變質」:回購10年不想換
盤中快訊》台股漲近700點站穩4萬4!聯發科、鴻海領軍,南亞科、華邦電亮燈漲停
控國民黨將食安政治化!民進黨:檯面下提案阻擋442億救災無人機計畫
股市投資人站在十字路口,今年最重要問題只剩一個:還要抱緊半導體股嗎?
毒油案首個祭旗官員出爐?黃國昌爆上凱道前「他」先下台:修法想轉移焦點