二戰密碼破譯人員曾在英國鄉村的一座莊園裡破解了納粹的恩尼格瑪（Enigma）密碼機，而今世界各國領導人在這裡承諾共同努力，以降低一項他們認為也構成嚴重威脅的技術所帶來的風險。
領導人們說，最先進的人工智能（AI）可能會在網路安全和生物科技等領域造成災難性風險，甚至脫離人類的掌控。
本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
英國科學、創新和技術部大臣米歇爾･唐蘭（Michelle Donelan）引用一位曾在該莊園工作過的密碼破譯人員的話說：「有時值得認真對待科幻小說。」
此次為期兩天的峰會於上周三在倫敦郊外約40英里的地方拉開帷幕，在峰會開幕式上發表的一份聲明中，美國、中國和其他20幾個國家承諾將加強合作，共同評估未來的AI系統（稱為模型）所帶來的風險，並考慮制定法律框架來管理這些系統的部署；這些系統比現在的AI系統更加強大。
聯合聲明說：「這些AI模型最重要的能力有可能造成嚴重、甚至災難性的傷害，無論是蓄意的還是無意的。」聲明中提到的原因是強大的AI系統有可能被不良分子濫用，或者人類因無法完全理解且很難預測甚而失去對AI系統的控制。
這一承諾是國際社會首次針對AI風險發出重要聲明，對強大的新AI模型可能給人類帶來生存風險的警告做出了回應。
關於應多麼重視這些警告以及如何應對這些警告的辯論是本次會議的主要議程，與會者包括美國副總統賀錦麗（Kamala Harris）率領的美國代表團，以及包括馬斯克（Elon Musk）和OpenAI首席執行官Sam Altman在內的領先AI企業的高管。
這兩位科技高管都曾對他們所說的AI潛在的破壞能力提出過警告；他們領導的公司正努力打造各自的AI。
包括Meta Platforms政策執行官、英國前副首相克萊格（Nick Clegg）在內的其他人上周二在公開場合表示，這些猜測出來的風險分散了人們對當前問題的注意力，比如保護選舉免受AI製作的虛假影片的影響。
克萊格說：「如果花太多時間去擔心遠在未來的事情，就會減少對眼前風險的關注。」
美國上周三表示將成立一個AI安全中心，隸屬於商務部，並且承諾將與英國同行展開合作，制定衡量AI系統能力的基本標準，並根據拜登政府的新行政令來收集AI公司報告的數據。
英國還宣布了明年在韓國和法國舉辦AI安全峰會的遠期計劃。
西方官員和行業高管認為，中國參與此次峰會是件值得注意的事，因為一些人擔心AI可能會變成世界超級大國之間軍備競賽的一部分。
英國首相蘇納克（Rishi Sunak）在兩週前的一次演講中說：「如果不至少嘗試讓全球所有領先的AI大國參與進來，就不可能產生嚴肅的AI戰略。」
中國科學技術部副部長吳朝暉在這次峰會的開幕式上說，中國支持國際社會建立AI測試和評估系統的工作。 （相關報導： 華爾街日報》避免美中俄三方軍備競賽，拜登政府將與中國進行核軍控討論 ｜ 更多文章 ）
長期以來，機器無所不能帶來的AI末日論威脅一直是流行文化中令人著迷的議題。但自從OpenAI的ChatGPT問世以來，這也成為了一個爭論話題，即決策者應確定哪些優先事項。ChatGPT展示了這項新技術令人不可思議的能力，對幾乎任何主題的問題都能給出似乎可信又表述流暢的答案。
