二戰密碼破譯人員曾在英國鄉村的一座莊園裡破解了納粹的恩尼格瑪（Enigma）密碼機，而今世界各國領導人在這裡承諾共同努力，以降低一項他們認為也構成嚴重威脅的技術所帶來的風險。
領導人們說，最先進的人工智能（AI）可能會在網路安全和生物科技等領域造成災難性風險，甚至脫離人類的掌控。
本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
英國科學、創新和技術部大臣米歇爾･唐蘭（Michelle Donelan）引用一位曾在該莊園工作過的密碼破譯人員的話說：「有時值得認真對待科幻小說。」
此次為期兩天的峰會於上周三在倫敦郊外約40英里的地方拉開帷幕，在峰會開幕式上發表的一份聲明中，美國、中國和其他20幾個國家承諾將加強合作，共同評估未來的AI系統（稱為模型）所帶來的風險，並考慮制定法律框架來管理這些系統的部署；這些系統比現在的AI系統更加強大。
聯合聲明說：「這些AI模型最重要的能力有可能造成嚴重、甚至災難性的傷害，無論是蓄意的還是無意的。」聲明中提到的原因是強大的AI系統有可能被不良分子濫用，或者人類因無法完全理解且很難預測甚而失去對AI系統的控制。
這一承諾是國際社會首次針對AI風險發出重要聲明，對強大的新AI模型可能給人類帶來生存風險的警告做出了回應。
關於應多麼重視這些警告以及如何應對這些警告的辯論是本次會議的主要議程，與會者包括美國副總統賀錦麗（Kamala Harris）率領的美國代表團，以及包括馬斯克（Elon Musk）和OpenAI首席執行官Sam Altman在內的領先AI企業的高管。
這兩位科技高管都曾對他們所說的AI潛在的破壞能力提出過警告；他們領導的公司正努力打造各自的AI。
包括Meta Platforms政策執行官、英國前副首相克萊格（Nick Clegg）在內的其他人上周二在公開場合表示，這些猜測出來的風險分散了人們對當前問題的注意力，比如保護選舉免受AI製作的虛假影片的影響。
克萊格說：「如果花太多時間去擔心遠在未來的事情，就會減少對眼前風險的關注。」
美國上周三表示將成立一個AI安全中心，隸屬於商務部，並且承諾將與英國同行展開合作，制定衡量AI系統能力的基本標準，並根據拜登政府的新行政令來收集AI公司報告的數據。
英國還宣布了明年在韓國和法國舉辦AI安全峰會的遠期計劃。
西方官員和行業高管認為，中國參與此次峰會是件值得注意的事，因為一些人擔心AI可能會變成世界超級大國之間軍備競賽的一部分。
英國首相蘇納克（Rishi Sunak）在兩週前的一次演講中說：「如果不至少嘗試讓全球所有領先的AI大國參與進來，就不可能產生嚴肅的AI戰略。」
中國科學技術部副部長吳朝暉在這次峰會的開幕式上說，中國支持國際社會建立AI測試和評估系統的工作。
長期以來，機器無所不能帶來的AI末日論威脅一直是流行文化中令人著迷的議題。但自從OpenAI的ChatGPT問世以來，這也成為了一個爭論話題，即決策者應確定哪些優先事項。ChatGPT展示了這項新技術令人不可思議的能力，對幾乎任何主題的問題都能給出似乎可信又表述流暢的答案。
賀錦麗在上周三的一次演講中說，專家們應該擴大對AI安全的定義，關注更廣泛的風險，包括她所說的已經存在的社會危害，比如偏見、歧視或傳播錯誤資訊的能力。本周早些時候簽署的一項美國行政命令針對了其中的幾個問題，此次峰會的組織者上周三也提到了這些問題。
一些數位權利和工會組織也呼應了這些擔憂。這些組織上周一發表了一封公開信，對該峰會的優先事項提出了批評。
「這關係到你會不會被算法炒魷魚，或者會不會因為你的身份或郵編而被不公平地進行貸款分析，」信中寫道。「隨著少數幾家大型科技公司正在攫取更大權力和影響力，小企業和藝術家正在被擠出市場，創新正在被扼殺。」
與此同時，一些AI研究人員擔心他們所認為的AI會帶來的災難性風險，敦促決策者控制最先進AI系統的開發。
非營利組織未來生命研究所（Future of Life Institute）正在前述峰會上推動制定具有約束力的規則，以迫使公司證明其系統是安全的，不會面臨潛在的生存危險，而不是由政府監管機構務必證明一個系統存在威脅。未來生命研究所在春季組織了一封聯名信，呼籲暫停開發最先進AI系統六個月。
不過，麻省理工學院教授、未來生命研究所所長Max Tegmark在此次峰會前表示，他認為發表一份聲明就是一種進步。
他說，即使是一份僅僅承認AI系統存在真正風險的聯合聲明，也是個重大進步。
