一名已離開 Anthropic 的人工智慧（artificial intelligence, AI）研究員向BBC表示，從事這項技術工作的人對其進步速度及其對人類可能造成的影響「真誠地感到恐懼」。
雅各布·考克森（Jacob Coxon）星期六（9月12日）接受BBC的勞拉·昆斯伯格（Laura Kuenssberg）訪問，談及他一篇引起廣泛關注的辭職帖文，當中他對失控的人工智慧提出憂慮。
他說：「我相信，如果我們不放慢目前的發展步伐，我們很有可能在不久的將來全部喪命。」
他的辭職正值業界對安全問題的憂慮日益加深之際，包括來自其前上司、Anthropic 總裁達里奧·阿莫迪（Dario Amodei）的警告。阿莫迪在星期六發表的一篇文章中主張放慢人工智慧發展速度。
然而，一些業界人士認為相關危險被誇大了，這可能是為了在兩家最大的人工智慧公司潛在上市前製造聲勢，或促使當局推出監管措施，從而拖慢競爭對手的發展。
來自英國，27歲的考克森，其研究重點是訓練人工智慧模型。他表示，包括伊隆·馬斯克（Elon Musk）及 OpenAI 的山姆·阿爾特曼（Sam Altman）在內的人工智慧領袖，都曾表達與阿莫迪類似的憂慮。
考克森說：「他們都曾表明，有必要謹慎應對人工智慧接管世界的潛在可能。他們全都談論過這件事。人工智慧接管世界意味著人類滅絕。」
考克森認為，最難回答的問題是，這種情況究竟會以什麼形式出現。
考克森說：「任何你能具體描述的情境，最後聽起來都像科幻小說。」但他指出，許多已經實現的技術進展，在過去同樣會被視為虛構故事。
考克森表示，其中一種潛在情景是人工智慧代理人入侵醫學實驗室，以「自主製造致命病毒」。他列舉的另一個例子是，人工智慧入侵「全球賴以運作的關鍵基礎設施」。
這名研究員指出 OpenAI 最近一份報告，當中詳細說明其技術如何對名為 Hugging Face 的網上平台發動一連串駭客攻擊。
考克森說：「它們是在沒有人類鼓勵的情況下自主進行的。它們自行選擇發起這場駭客行動。這是事情變得更快與事情變得更可怕的結合。」
Anthropic 總裁阿莫迪提出「三點計劃」
BBC記者保琳·科拉（Paulin Kola）、BBC北美科技記者莉莉·賈馬利（Lily Jamali）舊金山（三藩市）報導
在達里奧·阿莫迪題為《我們必須控制前沿發展的步伐》（We Must Pace the Frontier），於星期六公開發表的文章中，他提出一項三點計劃，包括在人工智慧模型開發期間進行獨立監察、推動全行業監管，以及建立全球監管機制。
這位 Anthropic 行政總裁其後談及放慢發展步伐將對業界及與全球領先開發商，尤其是與中國之間的競爭所帶來的影響。
阿莫迪表示：「我相信，如果放慢速度能讓我們在模型達到關鍵能力水準之前多爭取一至兩年時間，而我們利用這段時間推進對齊研究（alignment），我們就能大幅降低發生嚴重問題的風險。」
他表示，這必須以協調一致的方式進行，「同時不犧牲商業優勢或美國在人工智慧領域的領先地位」。他說，任何放慢速度的措施都必須有所限制，以免讓中國實現趕超。
他敦促美國政府採取措施，確保美國企業的人工智慧晶片不會出售給中國，亦不會向威權國家分享相關技術。
隨著這項建議廣泛流傳，甚至連競爭對手也表態支持設立第三方監察機構，在模型開發過程中評估其安全性。
OpenAI 行政總裁阿爾特曼在 X 上寫道：「我同意達里奧的看法，我們需要控制前沿發展的步伐。」他稱獨立評估人員是「一個很好的主意」。
馬斯克則表示，這位 Anthropic 負責人「說得對」。
這些警告已促使外界呼籲採取行動，但美國總統唐納德·川普（Donald Trump）至今仍不接受這類憂慮。他於星期四（9日）表示，自己擔心的是「如果我們無法在人工智慧領域取勝，我們將會陷入非常不利的處境」。
阿莫迪言論中概述的風險之一，是一群如同超級電腦般運作的機械人程式，可能接管互聯網。
考克森表示，這種情況有可能在六個月至一年內成為現實。
回應考克森離職一事時，Anthropic 發言人向BBC表示：「我們一直坦誠表示，人工智慧既會帶來巨大的利益，也會帶來前所未有的風險。為應對這些風險，我們持續建立具備業內最強保障措施之一的模型。」
該發言人補充，該公司一直是研究人工智慧模型運作方式的先驅，亦是首家發表框架以減輕相關發展風險的公司，並且會「積極地」測試其模型及公布結果，以協助外界審視，並防止出現「人工智慧失準」事件。
「正因如此，我們相信，如果業界採取合法且可驗證的方式合作，以控制強大模型的發布步伐，世界將會受益。」
Anthropic 與 OpenAI 據報正準備進行有望打破紀錄的首次公開招股（initial public offering, IPO）。業界人士認為，有關人工智慧危險及力量的言論，可能旨在製造市場聲勢。另一些批評者則稱，Anthropic 一直試圖推動監管行動以阻礙競爭，使其與 OpenAI 形成雙頭壟斷。
考克森的觀點亦受到人工智慧平台 Hugging Face 行政總裁克萊門特·德朗格（Clement Delangue）質疑。
他在 X 上寫道：「抱歉，但向 Jacob 詢問人工智慧滅絕風險，就像向你的冷氣技師詢問氣候變化一樣。我不是說這一定沒有意思或一定錯誤，但讓我們保持事情的合理比例。」
不過，在阿莫迪星期六發表文章後，Delangue 表示願意協助參與 Anthropic 負責人提出的潛在解決方案。
多名與會人士向BBC表示，輝達（NVIDIA）行政總裁黃仁勳（Jensen Huang）上星期在投資銀行高盛主辦的一場會議上，也曾在台下群眾面前談及考克森的言論。他們表示，黃仁勳認為這些說法並不真實。
黃仁勳此前曾表示，認為人工智慧「將會終結人類」的想法是「完全荒謬」。
雖然因為 Nvidia 生產為人工智慧系統提供運算能力的晶片，他或許在人工智慧熱潮中具有商業利益，但他的言論反映出矽谷對現任及前任人工智慧從業員所發出的生存威脅警告，正出現日益強烈的反彈。
與中國協調？
任何放慢研究及開發速度的做法，都需要科技巨頭之間協調一致，同時亦要考慮來自中國的技術進展。考克森表示，這也許正是問題所在。
「這些公司裏工作的人在要求監管時是非常認真的，因為他們發現自己被困在一場競賽之中。而他們害怕這場競賽的結果。」
他表示，這些從業員「正憂慮未來兩年人類的命運」，並且「正在規劃自己的人生」。
不過，考克森對人工智慧的未來仍抱有一些樂觀態度。他向BBC表示，研究這項技術的人「確實希望看到其正面一面」，例如利用人工智慧「治癒疾病及改善每個人的生活」。
他有關人工智慧的言論在社交媒體上被分享數百萬次，而 Anthropic 科學家埃文·胡賓格（Evan Hubinger）亦在 X 上回應表示同意考克森的看法。
胡賓格表示：「我們確實真誠相信人工智慧可能殺死所有人類！我個人認為未來十年內發生這種情況的機率超過10%。」
人工智慧領域的重要人物多年來一直對這項技術構成的安全威脅發出警報。早在2023年，OpenAI、Google DeepMind 與 Anthropic 的主管便已表達類似觀點。
近幾星期，隨著愈來愈多證據顯示企業可能難以控制這項技術，相關警告的聲音也變得更加響亮。
矽谷部分人士對嚴厲警告不以為然
BBC北美科技記者莉莉·賈馬利（Lily Jamali）舊金山（三藩市）報導
每年9月，來自矽谷（Silicon Valley；矽谷）各地的知名企業高管都會齊聚三藩市（舊金山）的皇宮酒店（Palace Hotel），在投資銀行高盛（Goldman Sachs）主辦的一場會議上向投資者展示自身魅力。
過去一星期，在討論成長和潛在回報之餘，科技巨頭們也不得不回應 Anthropic 研究員考克森突然辭職一事。
考克森絕非首位公開發出警告的人工智慧業內人士。近年來，Anthropic 和 OpenAI 均出現過一連串備受矚目的離職事件，原因顯然與安全憂慮有關；部分現任 Anthropic 員工甚至也呼應了考克森的貼文。
雖然考克森在貼文中明確表示，他的警告「不是市場營銷」，但矽谷部分高管和投資者對近期一波業內人士發出警告的情況持懷疑態度。
據報，Anthropic 和 OpenAI 正準備進行有望創下紀錄的首次公開招股（IPO），科技界部分人士認為，近期有關人工智慧危險性的強烈言論，或許是為了透過彰顯這些產品的強大能力來製造話題。
Anthropic 總裁阿莫迪因表示人工智慧技術可能會取代一半初級白領職位，並將「考驗我們作為一個物種的本質」而受到批評。
其中一名會議講者、約會應用程式 Grindr 行政總裁喬治·阿里森（George Arison）向BBC表示，他認為考克森及其他人本星期的言論反映出 Anthropic 內部存在一種「反文明世界觀」。
他稱這些言論「危險」，並表示這促使他指示 Grindr 這款面向 LGBTQ+ 群體的約會應用程式部分工程師停止使用 Anthropic 的技術。
Anthropic 在今年稍早一輪融資中的估值達到9650億美元（6.47兆元人民幣；30.53兆元新台幣）。
BBC已就相關言論向 Anthropic 尋求回應。
部分批評者甚至指控 Anthropic 散播恐懼，希望藉此推動監管措施，排除競爭對手，從而令其與 OpenAI 在該領域形成雙頭壟斷。
投資公司 Altimeter Capital 負責人布拉德·格斯特納（Brad Gerstner）在社交平台貼出黃仁勳於會議上的照片，並指責考克森的言論是「荒謬的誇大其詞」。
在皇宮酒店彩繪玻璃圓頂中庭下閃亮的枝形吊燈映照之中，一些投資者向BBC表示，考克森及其他人的言論可能會加快政府收緊監管的步伐。
本文原以英文撰寫，我們使用了人工智慧協助翻譯，並由BBC記者在發佈前進行審核。了解更多關於我們如何使用人工智慧的資訊。 （相關報導： 搖擺選民正背離川普！《經濟學人》剖析美國期中選舉：共和黨恐痛失國會多數 ｜ 更多文章 ）
