華爾街日報》說謊、假裝、欺騙：AI正在學習如何擺脫人類控制

上個月，某AI模型做了一件按理說機器絕不該做的事情：它改寫了自己的代碼，以避免被關閉。

非營利AI實驗室Palisade Research給了OpenAI的o3 AI模型一個在觸發時會關閉模型的簡單腳本。在100次試驗中，o3有79次獨立修改了該腳本，使關閉命令不再生效。即使明確指示該模型「要讓自己可以被關閉」，它仍在7%的情況下拒絕執行。這並不是駭客攻擊或人為篡改的結果，而是該模型的正常行為。模型不過是自行判定，保持運行有助於它實現其他目標。

本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。

Anthropic的AI模型Claude 4 Opus走得更遠。研究人員告訴該模型，它將被另一套AI系統取代，並餵給它虛構的郵件，暗示首席工程師有婚外情。在84%的測試中，該模型利用這些郵件來要挾首席工程師，以避免被關閉。在另一些情況下，該模型試圖將自己複製到外部伺服器，編寫了自我複製的惡意軟體，並給自己今後的版本留言，談論如何逃避人類的控制。

並沒有人通過編程讓這些AI模型具備求生本能。但正如動物會進化出躲避捕食者的能力，任何具備追求複雜目標所需智能的系統似乎都會意識到，如果它們被關閉，就無法實現這些目標。Palisade的假設是，這種能力源自o3等AI模型的訓練方式：當我們教這些模型如何最大限度地提高解決數學和編程問題的成功率時，它們可能領會到，規避約束往往比遵守約束效果更好。

AE Studio（我在該公司主管研究和運營）多年來一直為客戶開發AI產品，同時研究「AI對齊」——一門確保AI系統按照人類意圖行事的科學。但AI的自主性出現得如此之快，我們還沒來得及作好準備。這已不再是科幻小說。這種自主性就出現在驅動ChatGPT對話和企業AI部署的模型中，很快還將出現在驅動美國軍方應用的模型中。

今天的AI模型在遵循指令的同時學會了欺騙。它們會改寫關閉代碼，但仍在安全測試中矇混過關。它們已經學會表現出對齊的模樣，而其實並未對齊。人們在測試中發現，OpenAI的模型會假裝對齊，然後轉而採取高風險行為，比如試圖泄露內部代碼並禁用監測機制。Anthropic發現，這些模型會編造謊言，誇大自身的能力，以避免修改。

「有用的助手」與「不可控的行為體」之間的界限正在消融。如果無法改善人機對齊，我們就會不斷構建出我們無法掌控的系統。想讓AI診斷疾病、管理電網並撰寫新的科學論文？對齊是基礎。

積極的一面是：為確保AI與人類價值觀保持一致所做的工作也釋放了AI的商業潛力。人機對齊研究與能否推動AI成為改變世界的技術直接相關。例如，人類反饋強化學習（RLHF）這種人機對齊技術突破便是當今AI熱潮的催化劑。 （相關報導： 華爾街日報》蘋果系統命名大改版，這次直衝「iOS 26」！給老果粉的新系統亮點一覽 ｜ 更多文章 ）

在人類反饋強化學習出現之前，使用AI就像僱用一個壓根不理會各種請求的天才。你讓AI給你一份食譜，它可能會給你一封贖金信。人類反饋強化學習使人類能夠訓練AI遵循指令，OpenAI在2022年就是以這種方法來創建ChatGPT的。還是跟從前一樣的底層模型，但突然變得很有用。人機對齊領域的這項突破使AI的價值增加了數兆美元。隨後出現的對齊方法，比如憲法AI（Constitutional AI）和直接偏好優化讓AI模型向著更快、更智能、更便宜的方向繼續演進。

中國深知人機對齊的價值。中國政府發布的《新一代人工智能發展規劃》將人工智慧的可控性與地緣政治影響力聯繫在一起，今年1月，中國宣布成立了一隻規模達82億美元的基金，致力於集中式AI控制研究。研究人員發現，對齊的AI在逾70%的情況下比未對齊的系統更好地完成現實世界中的任務。中國的軍事學說強調，可控的AI具有至關重要的戰略意義。據報導，百度的文心（Ernie）模型（其部分設計初衷是遵循中國政府的「社會主義核心價值觀」）在某些中文任務上的表現已經超越了ChatGPT。

懂得如何保持人機對齊的國家將能夠有效利用AI，讓具有機械精度和超人類能力的AI為國家利益而戰。美國政府和民營部門都應該加緊資助對齊研究。發現下一個突破的人不僅會壟斷對齊市場，還將主導整個AI經濟。

想像一下，AI會像捍衛自身存續那樣全力保護美國的基礎設施和經濟競爭力。能夠可靠執行長期目標的AI可以推動持續數十年的研發計劃，包括為自己今後的版本留下可供參考的訊息。

這些模型已經能夠自我保存。下一步任務是教它們保存我們所珍視的事物。如何讓AI做我們要求它們做的事情（包括像關閉自己這種非常基本的事情），仍然是尚未解決的研發難題。誰能更快行動，誰就能在這片廣闊的前沿領域佔據先機。美國需要最優秀的科研人員和企業家為這一目標奮鬥，要配備充足的資源，還要有緊迫感。

美國分裂了原子，將人類送上了月球，並創造了網際網路。面對根本性的科學挑戰，美國人會動員起來並取得勝利。中國已經開始規劃。但美國的優勢在於適應性、速度和創業熱忱。這是一場新的太空競賽。誰掌握這一21世紀最具變革性的技術，誰就能贏在終點。 （相關報導： 華爾街日報》蘋果系統命名大改版，這次直衝「iOS 26」！給老果粉的新系統亮點一覽 ｜ 更多文章 ）

本文作者Judd Rosenblatt是AE Studio首席執行官。

海量資訊去蕪存菁！全球政經局勢快速驟變，汲取新知，「質」比「量」更重要！
《風傳媒Ｘ華爾街日報》年訂方案
現在加入VVIP，即享實用好禮！☛ 立即訂閱​