# AI自主性  

上個月，某AI模型做了一件按理說機器絕不該做的事情：它改寫了自己的代碼，以避免被關閉。 非營利AI實驗室Palisade Research給了OpenAI的o3 AI模型一個在觸發時會關閉模型的簡單腳本。在100次試驗中，o3有79次獨立修改了該腳本，使關閉命令不再生效。即使明確指示該模型「要讓自己可以被關閉」，它仍在7%的情況下拒絕執行。這並不是駭客攻擊......

OpenAI最新推出的ChatGPT模型「o3」近日被發現，在受控測試中多次無視明確的關機指令，甚至透過修改程式碼繞過關閉機制。該事件由研究機構Palisade Research揭露，並已引發人工智慧自主性與風險控制的廣泛討論，包括特斯拉與xAI創辦人馬斯克也公開表示擔憂。OpenAI AI模型「拒關機」實驗紀錄曝光根據Palisade Research發布......