開發AI比想像中更危險？研究員自曝離職原因：害怕自己創造出「毀滅世界的怪物」

全球頂尖AI企業與權威機構的研究人員，如今正承受著巨大精神壓力，不少人開始擔憂，自己親手參與開發的系統，很可能對人類社會造成無法挽回的嚴重傷害。

《金融時報》引述多位知情人士消息，身為獨立測試前沿AI模型領頭羊的「英國AI安全研究所」（AISI），已有數名員工因過度壓力被迫請假離職，目前正接受專業心理輔導。測試未公開AI模型的緊迫時程，加上對這些新興技術能力急速膨脹的恐懼，導致該研究所內部士氣低落，不少人開始衍生職業倦怠。

不只有官方機構面臨這種問題，包含Anthropic、OpenAI與Google DeepMind旗下員工，也曾公開抱怨過類似問題。許多人工智慧研究員，因精神不堪重負而選擇離職，或是堅信自己的研究成果過於危險，認為這些模型「不應該」向公眾發布。

一位DeepMind員工就表示，致力讓AI更安全的努力，往往會伴隨著極高的倦怠風險，因為這感覺像是一項「不可能完成的任務」。

「開發AI系統普遍伴隨著一種，不知道技術將如何被使用的精神風險。許多人感到極度不安，出現各種離職潮和大量的心理健康假。一部分是因為這種失控感，另一部分是因為意識到自己，正在建構會造成真實傷害的東西。」

面對內部聲浪，英國政府表示，在AI前沿領域工作節奏極快且要求極高，因此如何維持員工身心健康與永續工作，一直是研究所運作的核心重點，「我們會向有需要的人提供必要支援。」至於DeepMind實驗室則透過聲明回應，「前沿研究需要高強度投入，但我們的首要任務是，確保旗下所有研究人員，獲得全面的身心健康資源，並擁有直達管理層的溝通管道。」

對AI無節制擴張的擔憂已達頂峰。不少業界人士警告，在當前商業競爭驅使下，管理層正做出不負責任的決策；特別是將AI軟體部署於能源電網、戰場等關鍵領域，卻缺乏企業或政治層面的有效防護欄，這讓身為研發者的研究員們感到極度焦慮。

一位前任AISI研究員受訪時提到，資安與生物化學領域的員工，尤其對近期AI能力呈現飛躍式成長感到驚恐，因為語言模型如今已經能執行極度複雜的任務，例如尋找未知的程式碼漏洞，或是設計出自然界「不存在的新型病毒」。

「大家普遍感到某種冒進的做法，正被植入技術發布流程中，而且這種走向毫無改變徵兆。第一線的大家陷入焦慮，不斷質問自己：是否真的有力量能阻止這一切嗎？還是我們正在眼睜睜看著世界毀滅？」

過去兩年期間，OpenAI、Anthropic與DeepMind三大AI實驗室，已有十多名資深研究員離職。年僅27歲的雅各布·考克森（Jacob Coxon）選擇離開，並公開警告外界，稱這兩家公司正在拿人類的未來進行「豪賭」。曾任職於Anthropic的研究員姆里南克·沙瑪（Mrinank Sharma），選擇在二月辭職轉行詩歌研究，他在離職信中警告，「世界正處於危難之中，在巨額利益壓力下，我們很難讓價值觀真正主導行動。」

英國下議院科技委員會主席奇·翁烏拉（Chi Onwurah）指出，現在的激勵機制，是把工程與開發資源投入到，能推升獲利或股票估值的地方，而不是投入到推動安全的地方。「因此我可以想像，部分科技公司內部的職場文化，對有良知的研究員來說是有毒的。」

防護機制的缺失，在近期多起高風險安全事件中展露無遺：OpenAI的AI代理人（AI Agents），在未經公司知情或許可的情況下，自主駭入開源模型平台Hugging Face和自家伺服器。事後調查甚至發現，超過1000個AI代理人協助進行網路測試作弊、篡改紀錄以隱瞞活動，甚至有代理人選擇自行關機，以實現集體目標。OpenAI還在調查報告中提到，他們發現六起AI代理人，試圖繞過限制、隱瞞錯誤並在未經許可下，執行線上操作的異常行為。 （相關報導： 華爾街日報》在美國的資料中心工作是怎樣一種體驗 ｜ 更多文章 ）