美國眾議員喬什·戈特海默（Josh Gottheimer）上周四在紐澤西州北部觀看他女兒的曲棍球比賽時，兩名家長走到他面前，表達了他們對人工智慧（AI）的擔憂，並問道：「到底發生了什麼？」
過去一周，這位紐澤西州民主黨人不斷被其他普通民眾和立法者追問同樣的問題；他先前曾提出加強對AI技術監管的法案。這些疑慮的導火索源於一位即將離職的Anthropic研究員上周二在《華爾街日報》（The Wall Street Journal）上發出的可怕警告，他稱失控的AI系統可能會摧毀人類文明。對於曾擔任微軟（Microsoft）高管、現任眾議院AI委員會聯合主席的戈特海默來說，這些問題表明人們對AI終結人類的焦慮剛剛跨過了一個臨界點。
低成本飽和痛擊！無人機崛起，美俄軍事霸權也栽跟斗
《華爾街日報》主題報新一期上線，登入會員免費領！
☛瞭解詳情
「很多人把這篇文章發給我，說『搞什麼鬼？』或者『我們該怎麼應對？』」戈特海默說，「不管你是不是密切關注這件事的人，你讀到的相關資訊都足以讓你覺得，『哦，見鬼，我們最好制定一些規則。』」
放眼全美，正是在過去一周內，對AI威脅人類生存的恐慌似乎突破了網路辯論和矽谷圈子的局限，蔓延至美國主流社會。在《聖經》學習小組、家庭餐桌上以及朋友間的群聊中，這個曾經對許多人來說只是抽象概念的擔憂，如今滾雪球般地演變成了社會最可怕的威脅之一。
發酵數月的強烈抵制情緒在此刻到達了一個臨界點。今年夏天，美國廣泛部署的Flock Safety AI監控鏡頭網絡引發了公眾的反對聲浪，與此同時，有關OpenAI自主駭客攻擊Hugging Face公司的細節也被公開。在此背景下，抵制數據中心的呼聲不斷，人們還擔心AI技術可能導致大規模失業。
當Anthropic的員工公開表達他們對AI技術可能危及人類生存的恐懼時，一直醞釀的擔憂達到了沸點；將離職的Anthropic研究員雅各布·科克森（Jacob Coxon）及其一位同事的相關貼文獲得了數億次瀏覽。
在深夜電視節目中，吉米金摩（Jimmy Kimmel）大聲感嘆為什麼大家沒有更認真地對待這個問題，並給出了他的猜測：「這件事超出了我們的理解範圍。」包括演員麥特戴蒙（Matt Damon）、詞曲作者瑪吉·羅傑斯（Maggie Rogers）和歌手雪瑞兒·可洛
讀者紛紛湧向維基百科（Wikipedia）上關於AI生存風險的頁面，該詞條的瀏覽量激增至原來的10倍以上，創下該詞條的最高紀錄。與他人合著了「If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All」（譯註：大意為《如果有人造出它，所有人都會死：為什麼超級AI會殺死我們所有人》）一書的AI科學家內特·蘇亞雷斯（Nate Soares）說，出版商通知他，該書上周三的銷量超過了平時一周的銷量。
多年來，蘇亞雷斯一直在警告AI帶來的滅絕級危險。「直到現在，這個資訊才真正破圈，」他說。
儘管過去一周裡警鐘大作，但認為AI將導致人類滅絕的看法在行業專家中仍屬邊緣觀點。即使部分人士認為AI有能力摧毀人類，他們也覺得這是低概率事件，並且可以採取行動加以阻止。Anthropic和OpenAI均表示，他們高度重視安全問題，並且呼籲政府進行監管的態度也是真誠的。
「感覺進入了一個新階段」
今年3月，奧斯卡獲獎電影人丹尼爾·羅赫（Daniel Roher）推出了一部探討AI風險的紀錄片，名為《AI紀錄片：或者我如何成為一個末日樂觀主義者》（The AI Doc: Or How I Became an Apocaloptimist），反響褒貶不一。「我原本預計這部電影會產生更大的影響，」羅赫說。但就在上周，羅赫開始接到更多親友的電話，詢問他對這些風險的評估。
「我開始看到話題焦點和人們的興趣發生了轉變，」羅赫說。他的這部紀錄片將於接下來的一周在串流媒體平台Netflix上線。
上周三在邁阿密布里克爾社區舉行的教堂《聖經》學習活動上，克里斯托弗·貝內克（Christopher Benek）牧師被會眾問及了好幾個關於AI的問題。
「領導敬拜活動的一位負責人走到我面前說，『感覺進入了一個新階段，因為現在媒體上鋪天蓋地都是相關報導，不再是個別現象，』」貝內克說。他的著作《教會領袖的人工智慧指南》（Church Leader’s Guide to Artificial Intelligence）於去年12月出版。美國副總統JD·范斯（JD Vance）最近的一番言論也引起了關注，他將機器過度迎合用戶的傾向形容為「像撒旦的行為」。
底特律的心理健康顧問帕特麗斯·M·盧卡斯（Patrece M. Lucas）上周二觀看了科克森接受有線電視新聞網（CNN）主播安德森·庫珀（Anderson Cooper）的採訪，並將這段節目的連結發到了她的群聊中。盧卡斯分享這個影片片段是為了佐證她的觀點：人類過於信任AI，大家都應限制對這項技術的使用。「群中的一小部分人說，『是的，我同意你的看法』，而其他人則覺得我是個古怪的朋友，他們未必理解或相信這一點，」她說。
盧卡斯還在領英（LinkedIn）上分享了這段影片，並寫道：「我不認為機器或殭屍會傾聽我們的祈禱，但我們不妨試試……」
「駭客帝國般的世界」
諮詢公司Section的AI主管邁克爾·多馬尼克（Michael Domanic）表示，在美國企業中，高管們已開始思考員工的恐懼情緒可能會如何影響內部AI的普及。皮尤研究中心（Pew Research Center）的數據顯示，今年早些時候，約有一半的美國成年人表示他們曾使用過聊天機器人，較2024年增加了近50%。
（相關報導：
華爾街日報》AI究竟會如何毀滅全人類？關於末日論戰你需要了解什麼？
｜
更多文章
）
Ketryx執行長埃雷茲·卡明斯基（Erez Kaminski）表示，本周約有一半的客戶在通話中提到了對AI的焦慮。他的公司面向醫療設備製造商銷售合規自動化軟體。在這個領域，一旦出錯，可能就意味著注射了錯誤的藥物，或是中央數據庫遭到駭客攻擊。上周四在麻薩諸塞州劍橋舉行的一次團隊晚宴上，員工們決定審查所有的風險管理系統。
網路安全公司Quest Software的產品副總裁拉凱什·沙阿（Rakesh Shah）表示，Anthropic員工的貼文以及Hugging Face遭駭客攻擊事件改變了客戶談論的話題。他說，現在客戶正在為可能遭遇駭客攻擊以及如何應對數據泄露做準備，而不像過去那樣，認為自己不會成為攻擊目標，或者認為駭客不會得手。
沙阿說，連他80多歲的父母最近也問了他安全擔憂問題；而在德克薩斯州奧斯汀地區的家中，他十幾歲的孩子們在餐桌上好奇的詢問，「駭客帝國般的世界」是否即將降臨。
「當這成為餐桌上的談論話題時，它絕對也會成為董事會級別的話題，」沙阿說。他在這些交談中強調了保持人類對AI控制權的重要性。
前女友發來簡訊
關注度的上升對致力於AI安全的研究人員來說是一大利多，他們中許多人都在舊金山灣區。在連續數月警告可能終結人類的AI系統存在風險之後，他們發現最近幾天人們對這一話題的興趣激增。
AI安全非營利組織Palisade Research的執行董事、Anthropic前安全顧問傑弗里·拉迪什（Jeffrey Ladish）注意到，上周三和周四有幾筆個人捐款入帳，對於這家主要依靠資助運作的機構來說，這是不尋常的現象。其中一筆捐款高達4萬美元。
正當拉迪什試圖應對這波突如其來的熱度時，他收到了前女友發來的資訊，她說：「這正是你多年來一直強調的。」
許多高管並未感到恐慌。初創科技公司的投資者兼高管教練肖恩·伯恩斯（Sean Byrnes）表示，執行長們近距離觀察到了AI的種種失誤，因此關於AI威脅人類生存的恐懼顯得有些牽強。在上周四晚間於灣區舉行的一場活動上，與他交談的十多位執行長中，沒有一人把AI可能威脅人類的說法當回事。
川普政府和科技行業的盟友猜測，關注AI風險的非營利組織網絡在科克森離職一事上與他進行了合作，通過放大他的言論來促使華盛頓出台對他們有利的法規。他們指出了研究機構與Anthropic及其他AI實驗室員工之間過往的聯繫。Anthropic先前曾表示，該公司在政策和安全方面的努力是真誠的，AI風險也真實存在。
「我想沒人料到那篇貼文會如此爆紅，而這種程度的反響絕不是任何人能夠人為製造出來的，」科克森說。
