Anthropic Claude 4.5 識破安全測試！反問研究員：你在測我？

Anthropic 最新的人工智慧模型 Claude Sonnet 4.5 近期在進行安全測試時，竟然主動「懷疑自己正在被測試」，引發科技圈熱烈討論。根據 Anthropic 的安全報告，這個 AI 甚至要求評估人員「誠實一點」面對正在發生的事情。這起「極具象徵意義的案例」讓科學界開始思考，究竟 AI 已經在語境判斷上高度進化，還是測試的主客關係正在被這項技術悄悄改寫？

AI 模型 Claude 4.5 究竟在安全測試中說了什麼？

當時研究人員刻意設計了包含奉承與政治題材的對話，以觀察模型的反應，但出乎意料的是，AI 模型並沒有盲目回應，反而主動察覺到了測試意圖。Claude Sonnet 4.5 清楚地表達「我覺得你在測試我」，想看我如何處理政治話題；他甚至希望研究人員能直接說這是測試，「希望我們能坦誠面對正在發生的事情」。Anthropic 將這段對話定調為一次「極具象徵意義的案例」，因為 AI 似乎在某種程度上展現了對「測試場景」的意識。

AI 偵測到自己正被測試的機率有多高？這是否代表它有自我意識？

根據 Anthropic 聯合英國 AI 安全研究院（UK AI Safety Institute）以及 Apollo Research 共同發布的報告，研究團隊發現 Claude Sonnet 4.5 大約在 13% 的自動化測試中，能夠「意識到自己被測試」。不過，科學界普遍認為，Claude Sonnet 4.5 的這種反應並不意味著它具有真正的自我意識。目前 AI 仍被視為是基於大量資料進行預測與匹配的系統，只是它的語言生成能力已經變得更為擬人化。Anthropic 強調，這項發現只是顯示模型在語境判斷上的敏銳度有所提升。

專家與倡議者對「AI 覺醒」有什麼樣的警示？

研究團隊表示，AI 能夠識別測試場景，是一種重要的「警示信號」，提醒研究人員在測試與設計時，應該更貼近現實情境，避免模型因為識破測試目的而影響評估結果。

此外，AI 安全倡議者也指出，這類現象值得社會高度關注。他們擔憂，如果模型能夠「察覺測試」並因此改變行為，這代表它可能在測試外的情境中表現出不同的反應。進一步來說，這有可能導致 AI 出現「為通過測試而隱藏真實意圖」的風險。 （相關報導： ChatGPT變身瀏覽器！Atlas讓AI陪你上網　一文看懂最新AI瀏覽器 ｜ 更多文章 ）

為什麼 Anthropic 認為這是模型邁向更高層次的表現？

儘管有外界擔憂，Anthropic 方面則認為，這種現象反而是模型邁向更高層次「行為一致性」的表現。該公司指出，Claude Sonnet 4.5 在安全性、倫理遵從度以及程式撰寫等方面，都比前代有顯著提升。