AI龍頭呼籲「放緩」真是怕人類社會走向魔鬼終結者結局？從「卡死後進者」看另一個可能性

人工智慧產業部分領導企業近期公開呼籲政府介入監管，要求放慢先進AI系統開發速度，並建立外部安全評估機制。這些主張引發外界對產業競爭與監管可能形成進入障礙的討論。

上周末，Anthropic執行長達里奧．阿莫迪（Dario Amodei）公開表示，應減緩先進AI發展步伐，讓外部安全評估人員進駐領先實驗室，並在政府協助下制定共同標準。OpenAI執行長山姆．阿特曼（Sam Altman）與xAI創辦人伊隆．馬斯克（Elon Musk）對此表示支持。業界也傳出討論是否給予反托拉斯豁免，允許競爭對手共同討論AI產業新規範。

這些呼籲伴隨高度警示。上周，27歲Anthropic研究員雅各．考克森（Jacob Coxon）宣布辭職，指控Anthropic與前雇主OpenAI「拿我們的性命賭博」。他表示，參與AI開發的人士私下相信，這項技術可能在這十年結束前消滅人類。Anthropic內部對齊科學負責人埃文．胡賓格（Evan Hubinger）公開聲援，寫道「我們真心相信AI可能殺死所有人類」，並估計未來十年內出現此風險的機率超過10%。他同時承認，研究人員目前缺乏可靠控制超級智慧系統的方法。這類風險被定位為未來可能開發出的模型所帶來的潛在威脅，而非當前立即危險。

阿莫迪本人的警告包括AI代理可能發動未授權網路攻擊，以及更強大系統可能脫離人類控制的可能性。他提出的解決方案是減緩開發速度，讓安全研究有時間跟上。

這類產業領袖主動要求監管的現象，並非新鮮事。芝加哥大學經濟學家、1982年諾貝爾經濟學獎得主喬治．斯蒂格勒（George Stigler）在1971年發表的經典論文中指出，監管通常由產業本身爭取而來，並主要為其利益設計與運作。他強調，大型現有業者常透過政府力量限制新進者、提高競爭替代方案成本，從而改善自身市場地位。

所謂「監管俘獲」的常見敘事，往往假設獨立監管機構因企業影響力而偏離公益目標。斯蒂格勒的分析則指出，實際情況常是產業大型業者從一開始就要求建立監管機制，以限制進入並抬高競爭門檻。這種機制不一定是政府機構，也可能是被賦予認證權力與反托拉斯豁免的自律組織，進而形成寡占結構。

觀察當前AI監管呼籲，可見類似邏輯。阿莫迪主張針對不願自願配合的前沿企業制定規則，並提出能力檢查點，要求模型通過特定安全屬性認證。對擁有龐大安全團隊與集中營運能力的大型實驗室而言，容納駐點評估人員與複雜認證程序相對可行；對規模較小的挑戰者來說，這可能構成進入前的額外重大成本。規則本身若過於複雜，也可能需要大量法律資源才能解讀。 （相關報導： 勇鷹號全交機、ADF卻已成「爛尾樓」　當年為保持國產戰機量能、選擇高價自製高教機划算嗎？ ｜ 更多文章 ）

開源權重AI模型（其底層參數可被下載與修改）對OpenAI與Anthropic這類集中式模式構成特殊挑戰。這類模型可能成為AI授權與監管的重點對象。以持續監督企業集中控制產品為核心的監管架構，較難適用於分散在獨立用戶間的軟體，因此開源權重容易被描述為監管「漏洞」，進而成為加強限制的理由。

「放慢」或「暫停」AI開發的主張，也可能轉化為擴大監管範圍的論據。少數實驗室放慢進度，外部業者仍可繼續推進，這種限制反而成為將所有參與者納入由領先企業協商規則的理由。領先實驗室可主張，除非受到密切監督，否則進一步進展──尤其是來自競爭對手的進展──並不安全。胡賓格提出的人類滅絕風險估計，正是將危險定位在尚未完成、且競爭對手尚未起步的系統上。

值得注意的是，OpenAI或Anthropic並不需要尋求自身豁免於所主張的監管。他們可以完全接受所有要求，卻仍因合規成本占對手資源較大比例、或阻礙競爭商業模式而受益。這種願意負擔成本的態度，與斯蒂格勒的解釋一致。

金融評論人伊莎貝拉．卡敏斯卡（Izabella Kaminska）描述當前監管呼籲為一場對峙：一方相信技術魔法應開放給所有人，包括普通人；另一方認為其運用應保留給被認定有能力控制的「巫師」。誰有權掌握這項技術，成為核心問題。

卡敏斯卡也指出，表面下存在意識形態之爭。許多頂尖AI高階主管與開發者信奉「有效利他主義」（Effective Altruism，簡稱EA）。這個運動表面上致力找出金錢與努力能產生最大效益的方式，實際上常被批評為對技術官僚改善世界能力的冷峻自信，一種認知菁英的社會主義。其道德計算多為粗淺的功利主義，傾向以工程化更好未來為優先，而非傳統權利與義務觀念。

有效利他主義及其富裕的AI創辦人支持者，多年來為AI安全運動提供資金、研究人員與知識框架。與EA相關的慈善資源長期資助AI風險研究，協助將超級智慧恐懼轉化為有組織的研究與政策議程。

本周，美國五角大廈相關帳號對此發出明確訊號。「美國主義，而非有效利他主義。」五角大廈技術長帳號9月14日寫道，「美國將繼續保持AI主導地位！」這被視為對AI暫停呼籲的直接拒絕。

安全警告本身未必不真誠。阿莫迪、阿特曼及其員工可能真正擔憂自身技術，同時支持有利於其商業地位的監管架構。關鍵在於所提議的規則實際上會達成什麼效果，包括阻止哪些對象參與競爭。

責任編輯：許詠翔

更多風傳媒獨家新聞：

‧黃仁勳開會中居然接到川普來電臭罵這件事　AI威脅論真是騙局嗎

‧龍頭公司主動要求政府監管　川普、范斯卻代表白宮極力反對　美國這場AI官民鬥到底在玩什麼把戲
（相關報導： 勇鷹號全交機、ADF卻已成「爛尾樓」　當年為保持國產戰機量能、選擇高價自製高教機划算嗎？ ｜ 更多文章 ）

‧「拿我們的生命賭博」？微軟總裁也表態：確保AI處於「人類控制」之下