AI列車不會減速，還可能過站不停：《超智慧》選摘（1）

先從回顧開始。以最大的尺度觀察歷史，歷史似乎展現一連串明顯的成長模式，每次都比前一次更加快速。這樣的模式預示了另一波（更快速的）成長模式。然而，我們並不打算著重這個觀察結果。本書的主旨並不是探討「技術加速」或「指數成長」，或是那些五花八門、偶爾會集結在「技術奇點」（注：singularity，根據科技發展史總結出的觀點，認為人類正在接近一個使現有科技被完全拋棄、或人類文明被完全顛覆的事件點，事件點過後的事件完全無法預測）標題下的概念。本章我們將回顧人工智慧的歷史，並探索此領域的現有能力。最後我們將看看近期專家的意見，深刻檢討我們對未來進展時間表的忽略。

人類的成長模式和大歷史

不過幾百萬年前，我們的祖先還在非洲的樹蔭下盪來盪去。不管是在地理、甚至演化的時間尺度上，智人（Homo sapiens）從與黑猩猩的最後共同祖先分支出來，發生得十分突然。我們發展出直立站姿、對生拇指，以及最關鍵的—相比之下較小的腦尺寸和神經組織—讓我們的認知能力大幅躍進。如此一來，人類可以抽象思考、溝通複雜思想，並透過文化一代代累積情報，效果遠比地球上任何一種物種都還要好。

這些能力讓人類發展出愈來愈有效率的生產技術，也讓我們的祖先遠遠遷離雨林和草原。特別是開展農業後，總人口數增加，人口密度也提高了。人愈多，想法就愈多；更大的密度，代表想法更容易流通，也讓某些人得以投身研發專業的技能。這些發展增進了經濟生產和技術能力的成長率。日後與工業革命相關的發展，再一次帶來了不遑多讓的成長率劇變。

成長率的變化結果十分重大。幾十萬年前，早期人類（或原始人）的成長實在是慢得不得了，他們的生產力大約要花上100萬年，才能再多讓100萬人口維持生存水平。到了西元前5000年，農業革命後成長率大幅提升，要達到同樣的成長量只需200年。如今，工業革命後，全球經濟成長平均每90分鐘就可以達成同樣生產量。

長久維持現在的成長率能帶來可觀的結果；若全球經濟持續以過去50年的速度成長，那麼到2050年，全球將比現在富有4.8倍，而在2100年更會達到34倍。

但如果全世界經歷另一場規模堪比農業革命和工業革命的成長率劇變，目前這種持續以穩定指數成長的前景也將相形見絀。經濟學家羅賓．韓森（Robin Hanson）根據歷史上的經濟和人口資料估計，若以一個更新世的獵人／採集社會來算，全球經濟倍增所需的時間為224,000年；以農業社會來算，是90年；以工業社會來算，則是6.3年（在韓森的模型中，當代是農業與工業成長模式的混合體—全球整體的經濟尚未以每6.3年翻一倍的速度成長）。 如果真能轉型至下一個全新的成長模式，且其規模接近前兩次的改變，那麼產生的全球經濟成長模式將以每兩星期一次的速度倍增。 （相關報導： 黃丙喜觀點：AIChat真比人腦管用？ ｜ 更多文章 ）

以現在的眼光來看，這種成長簡直不可思議。但過往的觀察家可能也說過「未來的全球經濟將在人一輩子中翻倍數次」這種簡直不可理喻的推測之言。然而，如今的我們卻習以為常。

韋那．文吉（Vernor Vinge）開創性的論文開啟了「技術奇點即將到來」的想法，雷．克茲威爾（Ray Kurzweil）等人接續著述，如今已廣為人知。然而，世人不明就裡，以各種字面意義來使用「技術奇點」一詞，從而打造了一股具有「技術烏托邦」意味的邪惡光環（幾乎有如千禧年主義）。 既然這些字面意義和我們的論點毫不相干，那麼以更精準的術語來取代「技術奇點」一詞，應該有助於釐清事實。

關於「技術奇點」的想法，在此值得一提的是智慧爆炸的可能性，特別是機器超智慧的前景。也許有些人會被圖一那種指出「下一場不亞於農業革命或工業革命的成長模式劇變，很可能發生」的成長圖給說服，但他們接下來可能就會說，全球經濟如果只要幾星期就成長一倍，想必得要有一個速度和效率都比我們人類高上許多的心智來主導。但其實，認真看待機器智慧革命前景的態度並不需要仰賴曲線圖，或是從過去的經濟成長來推論。我們將會看到，我們有更充分的理由該採取謹慎的看法。

遠大前程

自從1940年代電腦發明以來，世人殷殷期盼總有一天，機器能達到人類的一般智慧—也就是具有常識和有效的學習與邏輯思考能力，並能在具象和抽象的各種領域中解決複雜資訊問題的計劃能力。當時世人認為，這種智慧機器將在二十年後誕生。 但從那時到現在，世人對於那一天的到來大約每過一年就再延後一年；如今，關注通用人工智慧（artificial general intelligence）可能性的未來學家一般相信，智慧機器的誕生還需要好幾十年。

二十年是占卜家預言劇變的甜蜜點：近到引人注意又息息相關，同時遠到可以假設現在還是空想的一絲突破屆時可能發生。與更短的時間尺度相比，大多數五到十年內會對世界有極大影響的科技，已有少量付諸實用；而十五年內會重新改造世界的技術，目前都還在實驗室的原型階段。占卜家的生涯年限差不多就是二十年，就算瞎編預測，時間也已經過了太久，砸不了招牌。

然而，儘管過去有人對人工智慧的預測過了頭，並不代表人工智慧不可行，或人類永遠開發不出人工智慧。 人工智慧的進展不如預期的主要理由，在於打造智慧機器的技術難度比先驅者所預料的還要高。至於難度究竟有多高、何時能一一克服，則都還是未定之數。有些一開始看起來複雜到令人絕望的難題，結果居然有驚人的簡單答案（不過，一般狀況往往與此相反）。

不論從現況到達人類水準的機器智慧（humanlevel machine intelligence）之間有多少站，最後一站都不會是終點。再過去不遠的下一站，就是超人類水準的機器智慧（super-human-level machine intelligence）。這班車不會在「人類」這一站就停下來，連減速都不會。它很有可能過站不停。 （相關報導： 黃丙喜觀點：AIChat真比人腦管用？ ｜ 更多文章 ）

＊作者為牛津大學哲學系教授，其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多，擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所（Future of Humanity Institute）的創立者和所長。本文選自作者著作《超智慧：AI風險的最佳解答》（感電出版）