VIP 專屬文章 《經濟學人》看「川習會」的AI難題：在「人工智慧災難」爆發前，兩人能否達成治理共識？

中國國家主席習近平與美國總統川普下週（5月14、15 日）將在北京會晤，外界預期兩人可能討論中東戰爭、 貿易失衡以及台灣問題，但在地緣政治之外，人工智慧也被認為會被擺上談判桌。《經濟學人》7日指出，北京與華府對於AI的快速發展都感到不安，AI模型越聰明，對各國經濟與地緣政治的影響力就越高，但AI帶來的風險也隨之增加。自從原子彈問世以來，大國從未面臨如此令人畏懼的冷戰式兩難困境（cold-war-style dilemma），美中兩強也在權衡到底是該合作抑或競爭。

《經濟學人》指出，川普政府與AI新創公司Anthropic（最著名的產品就是Claude）鬧翻後，目前對科技監管已不再採取放任態度，考慮下令要求新模型必須經過政府審查。而Anthropic上個月宣稱新開發的Mythos模型尋找網路防禦漏洞的能力太過強大，因此無法對外公開，此事引發了各界高度關注，中國官媒認為Mythos具備「前所未有的網路攻擊能力」，俄羅斯媒體甚至宣稱這個AI的能力「比核彈更可怕」。由於擔心功能日益強大的AI模型可能發動網路攻擊、設計生物武器、甚至完全脫離人類控制，《經濟學人》認為人工智慧作為外交的重點工作變得刻不容緩。

不過美國與中國都認為AI的發展攸關能否擊敗對方，因此雙方都不願放慢發展腳步，以免讓對方佔得先機，這也使得美中能否針對人工智慧的「防護措施」達成共識變得複雜。部分美國科技界人士認為，率先開發出能自我提升的人工智慧模型，將能創造巨大的戰略優勢；中國專家則傾向於將人工智慧視為經濟成長的關鍵：更像是核能，而非核武器。不過清華大學教授、中國新一代人工智能治理專業委員會主任薛瀾日前在國會山莊的活動中表示，美中兩國在AI安全方面存在「共同利益」，「如果一個國家不安全，我們所有人都不安全」。

《經濟學人》指出，薛瀾的想法與中國的政策不謀而合。2022年ChatGPT問世後不久，中國便開始推動AI國際合作，倡議成立聯合國相關機構。中國也曾提出「暫停」人工智慧發展的構想，主張應制定全球標準以確保人類持續掌握主導權，呼籲西方國家與貧窮國家分享AI技術，以免將世界劃分為「科技擁有者」與「非擁有者」兩大陣營。《經濟學人》認為，美中採取雙邊合作模式的可能性較高，畢竟兩國擁有全球90%的尖端運算能力，也是唯二具備實質監管影響力的國家。

《經濟學人》指出，華府與北京直接針對AI問題對話並非新鮮事。去年10月的釜山川習會針對AI領域的合作就已達成共識；2024年，時任美國總統拜登與習近平也都同意，核彈應由人類而非人工智慧來控制。然而新興風險的加速湧現，迫使各方重新審視這種零星而籠統的合作宣示，尤其對美國來說，中國的AI生態系也是一項特別的風險來源，因為中國的AI模型大多採「開源」模式，讓惡意行為者能輕易取得強大的AI工具。 （相關報導： 50%致死率的漢他危機！「洪迪亞斯號」靠岸引爆恐慌，世衛秘書長喊話「別怕，這不是新冠重演」 ｜ 更多文章 ）

另一方面，美中兩國的研究人員早已展開合作，只是沒有引起外界關注。像是包括百度在內的一些中國大型實驗室，已採用由Anthropic開發人員編寫的開源程式碼，用以規範人工智慧代理之間的溝通方式。美中兩國的科技業高管與退休官員，近年也屢屢舉行非正式對話，有時甚至是秘密進行。然而據參與者表示，在標準協調方面能推動實質進展的技術專家，往往並未參與其中。

《經濟學人》分析，美中之間的AI合作可能有三種模式：

首先是對話。一位西方官員表示，美中兩國可以針對AI議題進行「戰略保證」（strategic reassurance）。在核武談判中，各國通常會討論如何管理風險、建立信任以及降低誤判的可能性。美中兩國或許會各自制定AI規則，但恐怕不會進行協調。 美國智庫「人工智慧政策與戰略研究所」的（Institute for AI Policy and Strategy）卡森·埃爾姆格倫（Karson Elmgren）表示：「如果雙方閱讀相同的技術論文，並對事實有相似的認知，他們可能會採取合理的應對措施。」

其次，美國與中國可就如何測試模型的安全性達成共識。雙方無需分享具體研究結果，但可共同遵循關於危險行為的標準，或針對如何辨識與人類創建者意圖不符的動機制定統一準則。喬治華盛頓大學的美中科技與AI競爭專家傑佛瑞・丁（Jeffrey Ding）指出，用於監測人工智慧安全性的數據，往往難以與AI開發所需的重要資訊做區分，透過不公開測試結果，雙方都可以消除對資料外洩的擔憂。

最後則是核實。川普與習近平可以試著達成一項正式協議，共同制定安全測試標準，分享評估結果。然而此舉可能需要更積極的檢核手段，確認相關協議是否獲得遵守，像是實地檢查、或者將資料中心的資訊傳送給國際仲裁機構——就像負責監測核材料的國際原子能總署做的那樣。

不過《經濟學人》也承認，無論是上述合作的哪一點，目前看來都遙遙無期。美國的AI研究人員對中國官員的誠意抱持懷疑，中國的AI實驗室在安全方面則相對鬆懈。像是上個月發布的DeepSeek v4模型的附件，就省略了美國實驗室常見的安全防護措施。拜登政府前官員瑞安·費達修克（Ryan Fedasiuk）認為，中國方面對AI安全性的擔憂只不過是在作秀，目的是「讓美國人難堪」。

此外，儘管中國公開支持對AI進行全球治理，但《經濟學人》也強調，中國始終拒絕與美國就此議題進行討論。2024年，美國曾派遣高級安全官員和技術專家前往日內瓦，與中方對口官員會晤。熟悉談判情況的人士透露，中國只派出政治官員與會，而且拒絕討論AI安全問題，除非美國先解除對尖端AI晶片的出口管制。 美方官員抱怨，中國總是利用對話來謀取政治利益，就像時任美國眾院議長裴洛西（Nancy Pelosi）2022年訪問台灣，中國便終止了氣候變遷的相關對話。

除了美方對中國的不信任，中方也擔憂美國實驗室正利用安全問題來控制這項技術的發展。有人擔心，分享安全數據只是為了竊取中國技術機密的幌子。華府智庫卡內基國際和平基金會（Carnegie Endowment）的核武管制談判專家趙通（Tong Zhao）表示，中國通常對與技術更先進的對手簽訂協議持懷疑態度。中國在19世紀簽訂「不平等條約」的歷史，使官員對那些可能拖慢發展步伐、或者將中國鎖定在二流地位的協議保持警惕。 （相關報導： 50%致死率的漢他危機！「洪迪亞斯號」靠岸引爆恐慌，世衛秘書長喊話「別怕，這不是新冠重演」 ｜ 更多文章 ）

美國財政部長貝森特（Scott Bessent）上個月在《華爾街日報》的專訪中曾經表示，「如果我們在AI領域未能勝出，那就意味著大局已定」。這種態度也讓雙方在AI領域的合作更顯困難。美中兩國領導人或許會基於其他原因，將AI視為關乎存亡的關鍵，不過喬治華盛頓大學的傑佛瑞・丁以博帕爾化學事故（Bhopal chemical disaster）與更著名的車諾比核災（Chernobyl meltdown）為例，悲觀認為「歷史經驗表明，往往只有在發生悲劇性事故後，才能看到真正的進展」。《經濟學人》則說，人工智慧的談判才是對人類智慧的真正考驗。