不讓機器人變恐攻教科書！美AI巨頭砸千萬年薪聘化武專家，設置安全柵欄防被濫用

美國人工智慧（AI）巨頭Anthropic，目前正積極招募具備化學武器與高爆裂物能力的專家，試圖借助他們的專業知識，幫助自家AI平台提前打造安全屏障，嚴防旗下的人工智慧系統遭到有心人「惡意濫用」，甚至變成恐怖攻擊潛在的神秘幫手。

根據BBC報導，Anthropic極度擔憂其AI工具，可能在未來某一天、會被有心人士用來「指導或幫助」極端分子，告訴他們如何製造化學武器或放射性髒彈，用來執行恐怖攻擊，因此急需該領域專家加入，借助他們的專業知識、幫忙系統提前建立「安全護欄」，預防潛在行為發生。

外媒透過LinkedIn招募平台的職缺公告，發現Anthropic明確要求應徵者、「必須具備」至少5年在化學武器及/或爆裂物防護領域的經驗，並且必須具備「放射性散布裝置」（radiological dispersal devices，俗稱髒彈）的專業知識。該公司告訴BBC，這個職位與他們先前針對其他敏感領域所設立的職務性質相似，就是為了幫助AI平台打預防針。

事實上，Anthropic並非唯一採取此策略的AI公司。

ChatGPT開發商OpenAI，也同樣開出類似的職缺。在該公司的招募網站上，他們正在尋找一名「生物與化學風險」研究員，給出的最高年薪上看45.5萬美元（約新台幣1452.3萬元），幾乎是Anthropic提供兩倍薪資。

但並不是所有專家都認同這種「防護機制」，部分專家直言、這種防護策略，如同主動將致命武器的詳細資訊餵給AI工具消化，即便你先下達禁止使用的命令，但回顧過往各種系統或平台，只要有方法、人們總能找到繞過限制或跨越限制的方法，「使用AI系統處理涵蓋髒彈與其他放射性武器在內，多種高度敏感化學武器與爆裂物資訊，這機制真的安全嗎？」

英國廣播公司《AI Decoded》電視節目的共同主持人史蒂芬妮（Stephanie Hare）博士表示，「目前國際上沒有任何條約或法規，對這類工作進行約束，將AI應用在這類武器身上，這一切的進展，全都在公眾視線之外悄悄發生中。」

隨著AI快速發展，除了民生或商業用途，如今連軍事行動都少不了它，美國軍方在發動對伊朗的戰爭，以及先前對委內瑞拉的突襲行動，都存在AI系統輔助與執行，而這個系統就來自前文提及的Anthropic。

有鑑於自家系統被五角大廈（The Pentagon）廣泛用於實際軍事行動，Anthropic拒絕聯邦政府要求，希望他們解除使用限制，給予軍方更大權限，因此和五角大廈撕破臉、甚至遭到國防部威脅封殺。

Anthropic共同創辦人達里奧（Dario Amodei）發文表示，他認為目前的AI技術還不夠成熟完善，不應被用於「全自主武器系統」或「對美國民眾的大規模監控」兩種目的。對於他的質疑，白宮則強硬回應，強調美軍絕不會「受制於科技公司的擺布！」

被列入「供應鏈風險」黑名單標籤，恐怕會讓這家美國本土AI巨頭，面臨與中國電信巨擘華為（Huawei）相似的處境。但諷刺的是，儘管雙方撕破臉、甚至對簿公堂，Anthropic旗下的Claude AI系統，如今仍在美軍設備內持續運作。它內建在由國防承包商帕蘭泰爾（Palantir）所提供的系統，持續正被美軍使用、對伊朗戰場進行分析和規劃。 （相關報導： 輝達GTC大會震撼登場！黃仁勳推極簡「NemoClaw」掀養龍蝦熱潮，AI晶片商機上看兆美元？ ｜ 更多文章 ）