因吹哨者示警「10年內可能對人類造成致命威脅」　白宮AI沙皇呼籲暫停這家AI公司IPO

白宮人工智慧與加密貨幣沙皇大衛．薩克斯（David Sacks）於社群平台X發文，公開呼籲暫停人工智慧公司Anthropic計畫中的首次公開發行（IPO）。薩克斯指出，在前Anthropic研究員發出警告後，公司應先調查相關指控，再決定是否繼續推進公開募股。他寫道：「在這位『吹哨者』的說法尚未獲得調查之前，Anthropic的IPO當然必須暫停。」

薩克斯所指的吹哨者是前Anthropic研究員雅各．考克森（Jacob Coxon）。考克森已辭職並公開示警，指出人工智慧開發者正競相推進能自我改進的強大人工智慧系統，卻缺乏足夠安全防護措施。他表示，Anthropic與OpenAI的研究人員認為，先進人工智慧有可能在本10年結束前對人類造成致命威脅，同時批評這些公司持續朝向更強大能力的系統推進。根據路透社報導，考克森的警告已獲得其他Anthropic研究人員的支持。

Anthropic對齊科學負責人埃文．胡賓格（Evan Hubinger）也在X上發文回應，認同考克森的說法，並直言：「我們確實認真相信人工智慧有可能殺死所有人類。」Hubinger進一步表示，他個人評估人工智慧在未來十年內殺死全人類的機率超過10%。

這波警告浮現之際，Anthropic正準備進行可能規模龐大的首次公開發行，此舉將使該公司成為公開市場投資先進人工智慧的核心標的之一。考克森的辭職特別引發關注，據Axios報導，他在公司股權預計歸屬前約兩個月選擇離職。考克森說明，他放棄潛在財務利益，是因為不再希望自身財務與Anthropic估值提升產生關聯。

人工智慧安全疑慮正從矽谷擴散至更廣泛層面。研究人員與政策制定者開始質疑，現行防護措施是否跟得上日益自主系統的發展速度。路透社9月10日報導指出，考克森的警告已促使國會議員呼籲加強人工智慧監管，包括針對先進人工智慧系統進行獨立安全審計等提案。

Anthropic長期自我定位為注重安全的人工智慧公司，並強調自身在防護措施與人工智慧對齊研究上的投入。然而，隨著公司朝向公開市場邁進，前研究員與現任資深研究員公開示警，指出日益先進的人工智慧可能變得無法控制，公司正面臨更高強度的檢視。

這些警告屬於人工智慧研究人員的預測，並非證明此種結果必然發生。薩克斯要求暫停IPO的呼籲，已將Anthropic安全實務的辯論直接帶入公司進入公開市場的規畫之中。

責任編輯：許詠翔

更多風傳媒獨家新聞：

‧開放執行網路攻擊任務　懼AI成熟降低敵對勢力「駭」成本　五角大廈擴軍找上私人企業

‧手持5000萬美元現金　主張多蓋AI資料中心、美國倡議團體怎麼影響期中選舉
（相關報導： 曼德海峽危險？胡塞攻下摩卡港　巴基斯坦警告：可能依與沙國及土耳其的集體防禦條約行動 ｜ 更多文章 ）

‧台灣電子代工五大龍頭面臨暴擊？川普政府擬祭「終端產品」半導體關稅