# 人機對齊  

上個月，某AI模型做了一件按理說機器絕不該做的事情：它改寫了自己的代碼，以避免被關閉。 非營利AI實驗室Palisade Research給了OpenAI的o3 AI模型一個在觸發時會關閉模型的簡單腳本。在100次試驗中，o3有79次獨立修改了該腳本，使關閉命令不再生效。即使明確指示該模型「要讓自己可以被關閉」，它仍在7%的情況下拒絕執行。這並不是駭客攻擊......