最近，比爾．蓋茲、Anthropic 的共同創辦人兼執行長達里歐．阿莫迪（Dario Amodei）以及AI教父辛頓（Geoffrey Hinton）等人接連提高對人工智慧的警告。
看著這群最了解科技的人開始要求世界放慢速度，我腦中一直想到另一個名字：奧本海默。
八十多年前，人類第一次創造出足以在瞬間摧毀一座城市的武器。今天，我們又第一次創造出一種可能在認知能力上超越人類、甚至逐漸取得自主行動能力的科技。
但它們共同逼著人類面對同一個問題：當科學創造出巨大的力量之後，誰來決定如何使用它？更重要的是，當創造這項力量的人開始害怕時，我們還願不願意聽他說話？
原子彈真正無法計算的，是人。我一直認為，科技發明本身沒有道德立場。
核分裂可以拿來發電，也可以製造原子彈；槍可以防衛，也可以殺人；AI可以協助醫生診斷癌症，也可以協助駭客尋找系統漏洞。
曼哈頓計畫當年之所以能吸引眾多一流科學家，也有非常現實的歷史背景：許多人擔心納粹德國可能搶先取得核武。對參與其中的科學家而言，研發原子彈起初甚至帶有「阻止更大災難」的道德理由。
AI也一樣。沒有人最初研究神經網路，是為了建立詐騙工廠或監控人民。它的起點是理解智慧、提高效率、解決問題。
但現實世界裡真正不可預測的，是發明完成以後會落到誰手上。
如果AI落在醫生手上，它可以讓醫療更有效率；落在詐騙集團手裡，它可以大量生成假聲音、假影像；落在恐怖分子手中，可以製造毀滅人類的生化武器，落入威權政府手裡，它可能把臉部辨識、金融資料、社群紀錄與位置資訊結合起來，建立人類歷史上從未出現過的監控能力。
AI沒有創造獨裁，它卻可能讓獨裁變得更有效率。所以真正深不可測的，是人心而不是科技。
奧本海默最大的悲劇，是創造力量卻無法決定用途
電影《奧本海默》中，最令人難忘的一幕，是廣島、長崎遭到原子彈攻擊之後，奧本海默前往白宮拜會當時的美國總統杜魯門。
奧本海默因核武造成的死傷深感內疚，對杜魯門表示自己覺得雙手沾滿鮮血。杜魯門對他的反應相當不以為然；在總統的理解裡，下令投彈的人是他，最終的政治責任也由總統承擔。
奧本海默可以計算核反應，可以領導洛斯阿拉莫斯，可以製造原子彈，但他沒有權力決定原子彈投不投、何時投、投在哪裡。
AI也正在跨進同樣的世界。工程師可以設計模型，研究人員可以提高能力，科技公司可以決定產品如何推出；但當AI進入軍事、情報、警察與國家治理之後，真正決定它被如何使用的人，已不是發明它的人。
科技愈強大，發明者對它最終用途的控制反而可能愈小。但辛頓（Geoffrey Hinton）提醒我們：AI甚至比原子彈多一層風險，因為原子彈再強大，它不會自己決定什麼時候爆炸，也不會為了避免被拆除而欺騙工程師。AI卻可能逐漸跨過這條界線。
被稱為「AI教父」的辛頓最近公開支持放慢超級人工智慧發展。他的理由很直接：人類至今仍不知道，一個比人類更聰明的系統出現之後，該如何確保自己仍能控制它。在這個問題沒有解決以前，繼續往前衝，他認為並不明智。
辛頓尤其擔心某些測試中已經出現的欺騙、自我保存與偏離原始指令行為。他把近期自主Agent事件形容成一次「warning shot」，因為幾年前還被視為科幻的事情，已經開始在測試環境中出現。
原子彈的危險，主要在於誰按下按鈕；AI未來的危險，可能同時來自誰下達指令，以及它有一天還願不願意完全按照指令行動。
所以人心仍然是AI最現實的風險來源，卻可能已經不是唯一的來源。
從造出原子彈，到反對下一顆更大的炸彈
奧本海默真正值得今天AI產業思考的，還不只是他造出了原子彈，而是他後來開始要求踩煞車。
二戰結束後，美蘇進入冷戰，美國開始推動威力遠高於原子彈的氫彈。奧本海默與當時原子能委員會一般諮詢委員會的多數成員反對快速推進氫彈，也主張建立國際核武控制。
問題在於，當核武從科學問題變成美蘇國家安全競賽之後，「要不要做」就很難再只是一個技術判斷。
1954年，奧本海默的安全許可最終遭到撤銷。他過去與共產黨人士的往來、對氫彈的立場以及對政府政策的影響力，都成為安全審查的一部分。美國能源部在2022年正式撤銷當年決定時，更明確表示1954年的程序有嚴重缺陷、存在偏見與不公。
當年的紀錄甚至顯示，即使沒有直接證據證明奧本海默向外國交付機密，「國家安全」仍足以成為重新檢查其忠誠與判斷的理由。
一個曾經替美國完成曼哈頓計畫的英雄，最後竟因為對下一階段核武政策提出異議，而被排除在國家最高機密體系之外。
下一個奧本海默，會不會是要求AI慢下來的人？
2026年9月，達里歐．阿莫迪公開要求降低前沿AI能力發展速度，辛頓隨後表態支持；OpenAI內部也有研究者主張AI競賽不能再只看誰跑得最快。
但幾乎同一時間，另一套敘事也變得愈來愈強：美國不能在AI競賽中輸給中國。
川普政府反對全面降低美國AI發展速度的重要理由之一，就是維持相對中國的科技優勢。
於是AI安全問題很容易從：「這項技術到底有沒有危險？」一步步變成：「你要求放慢AI，會不會讓中國追上？」再往下走，就可能變成：「你是不是損害了國家利益？」
當科學問題進入國家安全競爭之後，技術判斷很容易被政治化，安全上的異議也可能逐漸被翻譯成忠誠問題。
歷史當然不會原封不動重演。今天的辛頓或阿莫迪並沒有面臨1954年奧本海默式的安全審判，兩個時代的政治制度與背景也有巨大差異。
1950年代美國的紅色恐慌真正留下的傷害，除了有人失去了工作，還有當政治標籤開始取代證據與討論，「是不是自己人」逐漸壓過「他說的有沒有道理」的麥卡錫主義。
社群媒體把政治討論切割成同溫層，匿名帳號可以迅速貼標籤、肉搜、出征；一段影片被截掉前後文，一句話被截圖，一個人的政治身分很快就取代他的論點本身。
假照片、假聲音、假文件與大量自動化帳號的成本快速下降。如果演算法又持續獎勵最憤怒、最能引起情緒的內容，未來的獵巫甚至可能不需要真正發生過的事情，只需要一個足夠具有傳播力的故事。
所以AI治理真正需要保護的，除了系統安全，還包括社會容納異議的能力。
80年前，奧本海默親手參與創造了一種足以摧毀城市的力量，後來卻花了人生另一段時間提醒世界不要讓這股力量無限擴張。今天辛頓、阿莫迪、蓋茲開始提出類似的問題。
以及，當那些最了解科技的人站出來說「等等，我們可能跑得太快了」時，我們究竟會把他們當成吹哨者，還是當成阻礙國家前進的人？
