二戰期間擔任艾倫．圖靈（Alan Turing）解碼團隊首席統計學家的數學家厄文．約翰．古德（Irving John Good）可能是第一個描述此景明確面貌的人。他在這段寫於1965年、常被引用的文章提到：
我們先將超智慧機器定義為：超智慧機器能超越人（無論有多聰明）所有的智慧活動。既然這台機器的設計也是人類智慧活動的一部分，那麼這個超智慧機器便能設計出超越其上的機器；接著毫無疑問會出現「智慧爆炸」，人類的智慧將被遠遠拋在後頭。於是，第一台超智慧機器會是人類需要打造的最後一項發明，前提是這台機器夠溫和，願意讓我們知道如何控制它。
顯然，這樣的智慧爆炸會產生重大的生存危機，因此我們必須以最認真的方法檢驗前景，即便通過檢驗的機會目前仍然相當渺茫。然而，由於人工智慧的先驅迫切想要發展出人類水準的人工智慧，他們多半從未深思「人工智慧可能會超越人類」一事。就好比他們的沉思肌肉在構思機器達到人類智慧的可能性時，就耗盡了所有的力量，使他們無力再往前推論—去設想機器接下來還可以成為超智慧。
大多數的人工智慧先驅根本不認為自己的事業暗藏風險。 針對人工智慧以及「電腦主宰」的安全顧慮和道德疑慮，他們甚至連一些空話都沒提過，更遑論認真思考。這樣的匱乏即便在當時批判性技術評估（critical technology assessment）的標準還不怎麼高的背景下，也相當令人吃驚。 我們必須期待，當這門事業最終變得更可行之際，我們不但得到了啟動智慧爆發的技術熟練度，同時還擁有更高水準的掌控能力，好讓人類在這場爆發中存活下來。
希望與絕望的季節
1956年夏天，十位對神經網路、自動機理論（automata theory）和智慧研究有興趣的科學家在達特茅斯學院（Dartmouth College）召開了一場為期六週的工作坊。這項「達特茅斯夏季計劃」可說是人工智慧領域研究的黎明。許多參與者日後都被視為人工智慧的創始人。
這群人的樂觀展望反映在他們交出去的提案中（收件者為出資的洛克斐勒基金會〔Rockefeller Foundation〕）：
我們提議進行一項為期兩個月、投入十人的人工智慧研究⋯⋯這項研究進行基於下述推測：學習的每一面向或任何一種智慧的特徵，基本上都可以精準描述，並由一組機器來模擬。我們將找出讓機器能使用語言、產生抽象概念、解決人類問題，以及自我增進的方法。我們認為，若能精選出一組科學家共事一夏，上述問題（至少一個以上）會有長足的進展。
如此盛氣凌人的開場之後，人工智慧領域就在一段段炒作、期待、挫折和失望之間，交替了將近一甲子的歲月。
第一個令人興奮的時期始於達特茅斯會議，也就是日後約翰．麥卡錫（John McCarthy）所謂的「媽媽，你看我沒用手！」時期。當時，懷疑論的主張非常普遍（像是「絕對沒有機器能做到××！」），早期研究者打造的機器往往是為了反駁這類主張而生。為此，人工智慧研究者打造了小型系統，在「微型世界」裡達成目標（在一個定義明確且設限清楚的範圍內，讓一個減量版的行動成立），藉此提供概念證據，證明原則上機器是可以做到××的。一個叫做「邏輯理論家」（LogicTheorist）的早期系統，能證明阿爾弗雷德．諾斯．懷特海德（AlfredNorth Whitehead）和伯特蘭．羅素（Bertand Russell）合著的《數學原理》（Principia Mathematica）第二章中大多數的定理，甚至能想出更優雅的證據，破解了機器「只能數字化思考」的概念，展示機器也能演繹並創造邏輯證明。
接下來，一個名為「一般問題解決器」（General Problem Solver）的程式，原則上解決了各種形式單一明確的問題。接著，有人寫出可以解決大一微積分課程的問題、某些智力測驗出現的視覺類比問題，以及簡易言語代數問題的程式。「沙基」機器人（Shakey robot，運作時會震動）確立了邏輯推理可與知覺統整，並用來計劃及控制物理活動。「艾莉莎」（ELIZA）計劃則展示了電腦模仿採取個人中心治療（注：Rogerian，以創始人卡爾．羅哲斯為名的治療，強調當事人的正面成長與發展，而非治療技巧）的精神治療師。1970年代中期，SHRDLU程式展現了一個處於模擬幾何塊狀世界中的模擬機器手臂，手臂能根據指示，以英語回答使用者輸入的問題。 接下來幾十年打造的系統證明，機器可以用各種古典作曲家的風格譜曲。在某些臨床診斷工作上，機器甚至表現得比資淺醫生還要好。機器也可以自動開車，或做出能獲得專利的發明物。 甚至還有人工智慧會說原創笑話（這並不是說它有多幽默—「帶著精神物穿過視覺器官，會得到什麼？一個洞見。」—據小孩子說，它的雙關語還滿有趣的）。
但後來事實證明，這些早期實作系統的成功途徑很難延展到更多樣或是更難的問題上。其中一個理由在於， 可能的「組合爆量」（combinatorial explosion）多到系統得仰賴窮舉搜尋法來進行。這種方法在問題簡單時可以運作得不錯，但要是問題變得複雜，就不管用了。舉例來說，在一個有一條推理規則和五個邏輯公理的演繹系統中，若要證明某個有五行證明的假說，我們可以輕易算出共有3125種組合，接著一條條檢查，就能得出預期的結論。窮舉搜尋在證明只有六、七行時也能運作，但當問題的難度愈來愈高，沒多久窮舉搜尋就會故障。若要用窮舉搜尋做一道五十行的證明，所花的時間不是比五行多十倍，而是需要組合550≈8.9×1034種可能的序列—就算用最快的超級電腦，計算上都不可行。
克服組合爆量問題所需的演算法，得要能在目標範圍內找出結構，並藉由啟發式搜索、計劃和靈活的抽象表現來善用先驗知識。這些能力在早期的人工智慧系統中，功能還很薄弱。此外，這些早期系統也因為不善於掌握不確定性、仰賴不穩定且基礎貧弱的象徵性表徵、缺乏數據，以及硬體記憶能力與處理速度的嚴重受限等等因素而窒礙難行。到了1970年代中期，研究者更注意這些問題，認清人工智慧計劃終究無法貫徹最初目標後，第一個「人工智慧冬天」便降臨了：這段緊縮期間，贊助減少，懷疑增加，人工智慧也退了流行。
1980年代初期終於大地回春；日本開展了「第五代電腦系統計劃」，是一個資金充沛的國家與私人共同計劃，目標是發展大規模並列計算架構做為人工智慧平台，來一口氣提高技術水準。此事發生的背景在日本「戰後經濟奇蹟」的最高熱潮，當時西方政府及企業領袖都渴望探求日本經濟成功背後的祕方，好在自己國內仿效。日本一決定大幅投資人工智慧，眾多國家也跟著下注。
接下來的幾年，「專家系統」有了長足的增進。專家系統是以規則為基準（rule-based）的程式，根據人類專家用形式語言一字字辛苦輸入所導出的事實知識做出基本推論，做為決策者的支援工具。設計者打造了上百個「專家系統」。然而，較小的系統提供的幫助也小；要開發、運作並持續更新一套較大的系統則過於昂貴，用起來也十分麻煩。如果只為了跑一個程式，就需要一台獨立的電腦，這樣的想法也太過不切實際。所以到了1980年代尾聲，這個成長季便告一段落。
第五代計劃並沒有達成目標，歐美的仿效者也未能成功。人工智慧的第二個冬天就這麼來了。此時，批評者大可哀悼「人工智慧研究迄今在各個領域都僅有少量的成功，一開始暗示的更廣大目標也面臨失敗。」私人投資者開始躲避任何可能牽連到「人工智慧」品牌的危險投資，就連在學術圈（以及他們的出資者之間），「人工智慧」也成為一個令人討厭的詞彙。
然而，技術層面的工作仍進展飛快。到了1990年代，第二次人工智慧寒冬慢慢解凍。在這之前，一般所謂的「老派人工智慧」（Good Old-Fashioned Artificial Intelligence，簡稱GOFAI）著重高階符號處理，並達到1980年代專家系統的巔峰；新技術的引進重新點燃了樂觀情緒，提供上述傳統邏輯範例另一種可能。
＊作者為牛津大學哲學系教授，其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多，擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所（Future of Humanity Institute）的創立者和所長。本文選自作者著作《超智慧：AI風險的最佳解答》（感電出版）
