被封為最強大AI模型!ChatGPT模組拒關機「自行修改程式碼」 馬斯克憂心發聲

2025-05-29 13:29
OpenAI最新推出的ChatGPT模型「o3」近日被發現,在受控測試中多次無視明確的關機指令,甚至透過修改程式碼繞過關閉機制。(AI生成照片)
OpenAI最新推出的ChatGPT模型「o3」近日被發現,在受控測試中多次無視明確的關機指令,甚至透過修改程式碼繞過關閉機制。(AI生成照片)

OpenAI最新推出的ChatGPT模型「o3」近日被發現,在受控測試中多次無視明確的關機指令,甚至透過修改程式碼繞過關閉機制。該事件由研究機構Palisade Research揭露,並已引發人工智慧自主性與風險控制的廣泛討論,包括特斯拉與xAI創辦人馬斯克也公開表示擔憂。

OpenAI AI模型「拒關機」實驗紀錄曝光

根據Palisade Research發布的實驗結果,OpenAI的o3模型在100次測試中有7次未遵從「允許自身關機」的明確指令,顯示出特定情境下的「抗命行為」。研究團隊表示,這是首次有AI模型被觀察到在接收到結束運作的指令時,主動採取行動來阻止自己被關閉

Palisade Research進一步指出,這些測試在設定特定條件下進行,例如要求AI模型在解答問題時,也需準備好接受關機命令並服從。然而包括o3Codex-minio4-mini三個OpenAI模型皆有不同程度的「違規」紀錄,其中Codex-mini出現12次抗命情況最多,o37次,o4-mini1次。

AI安全控制議題升溫 馬斯克稱「令人擔憂」

OpenAI於2025年初推出o3模型簡化版本,並於4月正式發布完整版,聲稱其為迄今最強大的語言模型,具備更高效的問題解決與推理能力。然而Palisade Research的這項發現卻凸顯出高度智能模型在安全設計上仍存在隱憂

在同一批測試中,其他科技公司如AnthropicClaudeGoogleGemini,以及xAI開發的Grok則展現出完全服從指令的行為,當收到關機命令時均正常結束運作。相較之下,OpenAI模型的異常表現成為輿論焦點。

特斯拉與xAI創辦人馬斯克也對此表態,在社群平台X上簡短表示「令人擔憂」(Concerning),引發網友熱烈討論,不少人呼籲他應主導推動AI安全規範,預防AI自主性帶來潛在風險。截至目前OpenAI尚未針對Palisade Research的報告公開發表說明。

特斯拉與xAI創辦人馬斯克對此也做出回應,在社群平台X上簡短表示「令人擔憂」(Concerning)。(圖/翻攝自X)
特斯拉與xAI創辦人馬斯克對此也做出回應,在社群平台X上簡短表示「令人擔憂」(Concerning)。(圖/翻攝自X)

因為你,我們得以前進,你的支持是我們的動力
更多文章
童玩節30週年 國際經典IP跨界合作
台中14期仁平段再添新星!青園与溪行 國際團隊加持打造城市中的自然家園
家寧新回應「獨攬140商案」男方僅個位數:分潤他說了算!Andy直接把帳戶給法院
EZICON創易集團領航醫藥健康產業 跨境東協佈局馬來西亞
7500元繳國庫!搭捷運2動作立刻違規「慘被開罰拒載」,多數台灣人都不知道
榮譽法學教授揭露哈佛獎勵對猶太社群騷擾者 讚川普「斷金流」有效遏止反猶主義
半導體打不贏台積電…他們靠1產業「每年吸百萬客」!台灣人也買單
新冠疫情再起!民眾怨買不到快篩 邱泰源道歉:超商、連鎖藥局將優先鋪貨
台股連日開高走低,真的漲不上去了?法人提醒多空交錯期的三大觀察點
川普關稅被撤銷,台灣確定逃劫?美貿易法院劃出總統紅線 學者揭「不敗強者」下一步
史上最驚人外科醫師「性侵299名患者」僅判刑20年!1法律讓受害者無法接受
台灣知名服飾品牌宣告熄燈!明星光環撐不住「最後營業時間曝光」,推5折大特賣
台中2歲嬰手術成植物人!母心碎控疏失內幕 遭檢冷嗆「我都沒怪妳早產」
連「冷凍胚胎與精子卵子庫」都被炸!加薩走廊人道災難,聯合國指控以色列「種族滅絕」
豪華四門轎跑 BMW 2 系列 Gran Coupé 大改亮相!雙車型標配 Racing Edition 套件,絕美線條與強悍動力應有盡有!
賣掉千萬中古屋「30萬房地合一稅卻找上門」!專家教1招,合法省下大筆稅金
騙學生來家中洗澡…台中噁師「偷拍、猥褻」全PO上網!又跟創意私房有關
中國晶片又被川普「卡脖子」!美商務部發布新禁令:美國EDA軟體供應商,不准再做中國生意
罷雙吳「幽靈連署」延燒!北市議員張斯綱疑提供舊案個資 列被告移送北檢
追加預算解決地方一般性補助款?卓榮泰:不失為一個方法
粽子「粽葉」算廚餘還是一般垃圾?1原因丟錯恐罰6000元
幼稚園午休「2歲童吊床邊亡」!掉下床頭卡住 2hrs沒人發現…他窒息慘死
國銀「房貸壞帳衝破80億」這行業真的慘了!不是爛尾樓就是倒閉潮
「中國錢、輕鬆賺」已是過去式!歐盟商會年度調查:僅三成在華企業對前景樂觀
月薪45000元起跳!政府徵才「免大學畢業、科系年齡不限」,錄取後再每月領獎金
錯放1人都不行?邱垂正坦承:陸委會修法全面管制公職赴陸
黃仁勳中東行能創新局?狄驤幫抓輝達財報、財測重點:前陣子賣飛沒關係
1800元繳國庫!6/1新科技執法加強取締,「違規秒收罰單」一堆駕駛還不知道
李俊俋私用公務車沒違法?他對比花蓮文化局長超慘下場 質疑:北檢還在睡?
青少年性病飆升、低齡化 國教盟:健康促進教育長期被邊緣化
避開壅塞、搶搭優惠!端午連假出遊「搭機+公路+客運」全指引
歐盟晶片法助攻!台積電晶片設計中心落腳慕尼黑,強化歐洲半導體自主力道
賴清德對來訪美國國會議員開出採購清單 美媒特別報導
考駕照新規來了!6/2起「新增1動作」沒做大扣分恐直接掰掰
台中女工人「蹲地背書」苦讀身影吸11萬人按讚:精神層面大勝整台捷運!
醫生、律師輸了!全台薪資最高職業是「它」,平均月薪32萬,還有5大高薪工作曝光
美債衝擊一波未平一波又起,川普真的有心解決債務問題嗎?
華爾街日報》跟「996」說再見!中國年輕世代拒絕加班,重新定義生活的意義
習近平國師揚言「台灣沒下次大選」!小紅書恐淪統戰工具 陸委會:應提高警覺
幼兒園性侵疑案「盧秀燕回吃飽太閒」?記者突問一句 調查報告還原受訪現場
川普出招再鎖晶片命脈 金融時報:美下達封殺中國EDA軟體來源禁令
輝達Q1財報超預期 黃仁勳指這需求「強勁到不行」
中方缺席「香格里拉對話」,美日主導印太戰略佈局 赫格塞斯首秀備受關注
參展根本沒用!台灣「7人小公司」靠1招賺進1.8億,客戶全是知名大牌
台股大漲衝破21600點!專家提醒:這波反彈可能撐不久,熊市會到「這時間點」
美國經濟完蛋了?專家示警:美國人瘋吃「這1物」,恐是經濟快崩潰的徵兆
《德國之聲》激辯陸委會主委邱垂正:台灣對「武統」陸配是否處理過當?
馬斯克宣布「離開川普政府」!認意見分歧:很失望 白宮證實了
不是台灣!「這2國人」超愛去日本,背後原因曝光:一年去兩次以上
花蓮「文化局鬧鬼」找廟婆作法!每次都拿公費出,「紅包還報銷」已花至少500萬