AI如何超越人類?未來會有3種類型的「超智慧」

2023-09-03 09:10

? 人氣

未來會有3種類型的「超智慧」(美聯社)

未來會有3種類型的「超智慧」(美聯社)

速度超智慧

速度超智慧是個類似人類心智、但是更快的智慧。概念上,這是最容易分析的超智慧形式。我們可以用以下方法定義速度超智慧。

[啟動LINE推播] 每日重大新聞通知

速度超智慧:一個能完全做到人類智慧所做之事,但快上很多的系統。

這裡提到的「很多」,指的是像「多個數量級」的情況。但我們不會抹去定義中每個含糊的部分,而是會充分說明。

速度超智慧最簡單的例子,就是在快速硬體上運作的全腦仿真。一個比生物腦快上一萬倍運作的仿真,可以在幾秒鐘內讀完一本書,並在一個下午寫完博士論文。如果速度可以快上一百萬倍,它就可以在一個工作日內完成整整一千年的智慧工作。

對於這樣一個快速心智來說,外在世界的事件有如慢動作展開。假設你的心智以一萬倍的速度運行好了,你的朋友不巧摔了茶杯,你就可以看到瓷器在幾個小時內慢慢朝地毯落下,如同彗星靜靜掠過太空,朝著遠方行星飛去;然後,當即將撞上的預期緩慢在你朋友的灰質皺摺擴大,並開始進入他的末梢神經系統時,你可以觀察到他的身體慢慢呈現出僵住的「唉呀」貌—這段時間夠你再點一杯茶,讀一些科學文章並打個盹。

因為物質世界明顯的時間膨脹,速度超智慧比較適合和數位實體共事。它可以活在虛擬實境中,並在資訊經濟中進行交易。或者,它可以透過奈米操作器和物理環境互動,畢竟那麼小的手臂運作起來比肉眼可見大小的肢體還快(一個系統的特有頻率與其長度成反比)。一個快速的心智可能主要會與其他的快速心智交流,而不是和演化緩慢且跟漿糊一樣的人腦交流。

由於愈快的心智耗費時間長途移動或通訊時,會面臨愈高的機會成本,而當心智愈來愈快,光速也會成為愈來愈重要的限制。光大約比噴射機快一百萬倍,所以當一個心智加速一百萬倍的數位行動主體環繞地球時,所花的主觀時間也跟現代的人類旅行者一樣。打給遠方某人所需的時間,跟「親自」過去是一樣的,儘管打過去所需的頻寬比較少。心智加速比極大的行動主體若要彼此交流,可能住得靠近些還比較有利。需要頻繁互動的極快速心智(比如說工作團隊成員)可能得定居在同棟建築物的電腦中,避免令人挫折的延遲。(延伸閱讀:最快2025年,第四次工業革命就會達到頂峰!摩爾定律加持,讓它發展速度超越先前)

群體超智慧

另一種超智慧的形式,是靠著聚集大量較小型的智慧,來達到更高表現的系統。

群體超智慧:一個由大量較小型智慧構成的系統,其整體表現在各個領域中,大幅超越所有現有的認知系統。

群體超智慧的概念不像速度超智慧那樣截然分明。然而,從經驗上來說,我們對此較為熟悉。我們尚未見識過速度與人天差地別的人類水準心智,但我們確實已充分見識過群體智慧—即眾多具有人類水準的單位,以各種程度的效率共同合作所組成的系統。商行、工作團隊、八卦網路、倡議團體、學術社群、國家甚至全人類(如果我們採納某些抽象觀點),都可以視為寬鬆定義下能解決不同層級智慧問題的「系統」。過去的經驗告訴我們,在各種大小或構成各異的組織努力下,再困難的任務都有辦法輕易克服。

群體智慧擅長解決能分解成小部分的問題,分解後的子問題解答,可以平行求得且獨立證明。建造太空梭或經營連鎖漢堡店之類的工作提供了大量的分工機會:不同的工程師進行太空船不同部位的建造;不同的幹部經營不同的餐廳。在學界,研究者、學生、期刊、獎學金的嚴格分界,以及各個獨立學門的獎項(儘管不適用於本書這類型的作品),也許(只有在溫柔撫慰人的內心框架裡)可以視為一種實踐時的必要調和,好容許眾多擁有各式各樣目標的個體和團體,相對獨立地各自耕耘,對人類知識做出貢獻。

一個系統的群體智慧,可以藉著擴展成員智慧的數量或品質來強化,或是藉由增進組織來強化。要從任一種今日的群體智慧來達成群體超智慧,需要極大幅度的強化。強化完成的系統,得要在許多極為一般的領域中,有著大幅超越現有群體智慧或其他認知系統的表現。一種讓學者更有效交換資訊的新會議形式,或是一個更能預測使用者對書和電影評價的新式協同資訊過濾演算法,顯然都不可能接近群體超智慧。不管是讓人類人口再增加50%,還是能讓學生在四小時內學會六小時內容的進步教學法,都不會成為群體超智慧。要達到群體超智慧,人類的集體認知能力需要極端的成長。

要注意的是,群體超智慧的門檻是以現在的表現水準為指標—也就是21世紀初的水準。在人類史前與歷史階段,人類群體智慧已經以極大的倍數成長。舉例來說,從更新世以來,世界人口成長了至少一千倍。光就這點來看,相對於更新世,現在的人類群體智慧水準可說是已接近群體超智慧。也有人認為,某些傳播技術的進步獨自或個別造成人類智慧極大的推展(尤其是語言,可能還包括城市、文字和印刷的出現);如果人類群體智慧難題的解決能力發生另一次影響力堪比的革新,在這層意義上就會產生群體超智慧。

在此,某些讀者可能會忍不住插話說,當代社會看起來並沒有特別有智慧。也許某讀者的國家剛做了不受歡迎的政治抉擇,而這項顯然很不明智的決策在該讀者心中隱約擴散,化為當代精神障礙的證據。當代人類不是崇拜物質消費、耗盡自然資源、汙染環境、殘害物種多樣性、始終無法補救全球不公義,並忽視最重要的人文主義和精神價值嗎?然而,且不論現代性的缺點和上個時代也不算小的失敗該怎麼比較,我們對群體超智慧的定義中,並沒有說過一個有比較偉大群體智慧的社會,就一定比較好。這個定義甚至沒有說,集體而言比較有智慧的社會就比較明智。我們可以把智慧看做一種「把要緊的事大致弄到好」的能力,去想像一個組織,由非常有效合作的知識工作者構成骨幹,能集體解決極廣泛領域的智慧難題。我們假設這個組織可以運作最多種類的商業活動、發明最多種類的技術,並讓最多作業流程達到最佳化。即便如此,它還是可以在少數幾個關鍵問題上全盤都錯且錯得離譜。舉例來說,它可能無法針對生存危機採取適當的預防措施,因而追求短暫的爆發性成長,卻在全面崩潰中慘澹結束。這樣的組織可能擁有非常高程度的群體智慧,甚至可以高到成為群體超智慧。但我們要抗拒把所有規範上合用的屬性,都打包成一個巨大模糊的運作概念,就好比我們找到了一個優秀的特點,就不認其他特點也同時存在。我們反而要認清,機能強大但天生沒那麼善良、或聰明但不可靠的資訊處理系統(智慧系統)是會存在的。我們將在第七章回來討論這個問題。

群體超智慧的整合可以鬆散也可以緊密。若要舉例說明一個整合鬆散的群體智慧,可以設想一個叫做「超級地球」的行星,超級地球的傳播與協調技術都和我們真實地球上現有的技術具備同樣水準,人口卻比地球多上一百萬倍。因為有這麼多人口,超級地球上的總智慧勞動力比地球的大很多。假設每一百億人就會出一個牛頓或愛因斯坦等級的科學天才,那麼超級地球上就會有七十萬個這樣的天才同時並存,且按比例來看,還會有大量僅略遜他們一籌的高人。新的想法和技術會以劇烈的速度發展,超級地球的全球文明亦會構成一個整合鬆散的群體超智慧。

如果我們逐漸提升某個群體智慧的整合度,最終它會成為一個統一的智慧—相對來說,互動鬆散、規模較小的人類心智會集結成單一的「大心智」。超級地球的居民可藉著提升傳播和協調技術,一步步開發出能讓眾多個體一起著手解答智慧難題的更佳方法。如此一來,經過充分整合,群體超智慧就會成為「品質超智慧」。

品質超智慧

現在介紹第三種超智慧的形式。

品質超級智慧:一個至少跟人類心智一樣快的系統,但品質上聰明太多。

一如群體智慧,智慧的品質也是某種曖昧的概念。困難之處在於,我們完全未曾見識過任何超越當今人類最頂尖的智慧品質。然而,我們可以思考相關案例來得到一些啟發。

首先,我們思考一下智慧品質較低的非人類動物,好讓我們的參照點範圍得以延伸(這並非物種主義的論點。一條斑馬魚擁有的智慧品質能讓牠適應所處生態的需求,但這裡的觀點更以人類為中心,關注的是與人相關的複雜認知表現)。非人類動物缺乏結構複雜的語言;牠們無法使用、也不會製造工具,頂多只有初步能力;牠們的長期計劃能力嚴重受限,而且只有非常有限的抽象推理能力。這些局限無論用「非人類動物的心智缺乏速度智慧」還是「非人類動物的心智缺乏群體智慧」,都無法充分解釋。以純運算能力來看,人腦可能不如象或鯨等巨大動物。人類若沒有群體智慧所賦予的巨大優勢,就無法發展出複雜的技術文明;儘管如此,人類個別的認知能力並非每一項都仰賴群體智慧。

有些高度組織化的非人類動物,比方說人類訓獸師刻意訓練的黑猩猩或海豚,或是在龐大而有條不紊的社群中自給自足的螞蟻,並沒有堪稱高度發展的群體智慧。然而,顯而易見,智人神奇的智慧成就有很大一部分是我們腦部結構的特點造成的,這些特點來自其他動物所沒有的獨特遺傳。這一點可以幫助我們說明品質超智慧的概念:這種智慧品質上優於人類的程度,至少要如人類智慧品質上優於大象、海豚或黑猩猩那樣的程度。

第二種說明品質超智慧概念的方式,著重於對個人造成特定領域的認知障礙,尤其是那些並非因為一般失智症或其他腦部神經運算資源受到大量毀壞所導致的障礙。舉例來說,可以想想具有自閉症譜系障礙的個體,他們可能在社會認知上嚴重不便,但在其他認知領域運作良好;或者有先天失歌症(amusia)而無法哼歌或辨認簡單音調的人,在其他多個方面生活正常。我們還可以從神經精神疾病的文獻中舉出眾多其他例子,其中許多個案研究針對因遺傳異常或腦部創傷,導致障礙範圍十分單一的病患。這類案例顯示,普通成年人有一整套絕佳的認知天分,這不僅要擁有一般的神經處理能力,也不只是具有一般智慧,還需要特化的神經迴路。從這個觀察結果,我們可以認為品質超智慧是種任何實際人類都不曾擁有、可能存在但未實現的才能,而確實擁有這些才能的智慧系統,將大幅提升克服廣泛策略相關工作的能力。

思考過「非人類動物與人類」以及「特定領域認知障礙」之後,我們可以形成關於不同品質智慧的概念,以及它們實際上會造成的差異。舉例來說,要是智人缺少了表達複雜語言所需的認知模組,可能就會成為另一種與自然和諧共處的類人猿物種。反之,如果我們增加幾套新模組,得到媲美「可以形成複雜語言表現」的優勢,那我們就會成為超智慧。

作者介紹:尼克.伯斯特隆姆(Nick Bostrom)

牛津大學哲學系教授,其學術背景包含理論物理學、計算神經科學、數學邏輯、人工智慧以及哲學。他在全球五十歲以下的哲學家中被引用次數最多,擁有廣泛的影響力。伯斯特隆姆同時是牛津馬丁學院人類未來研究所(Future of Humanity Institute)的創立者和所長。這個跨學科的研究中心聚集了一群傑出的數學家、哲學家和科學家,共同致力於深入探索人工智慧的安全與政策、生物安全、宏觀策略、數位思維倫理等關鍵科技與基礎問題。

伯斯特隆姆的學術成就與貢獻受到廣泛讚譽。他是TED大會的常客,多次在此發表演講,並且已接受超過一千次來自各類媒體的採訪。他的學術實力和影響力使他兩度榮登《外交政策》(Foreign Policy)雜誌的全球百大思想家名單,並且作爲最年輕的思想家之一,他也成功躋身於《展望》(Prospect)雜誌的世界思想家排行榜前十五位。

除此之外,伯斯特隆姆相當多產,已出版約二百篇著作,包括具有開創性的《人類偏誤》(Routledge)、《全球災難風險》(編輯,牛津大學出版社)以及《人類增強》(編輯,牛津大學出版社)。他的學術作品被翻譯成三十多種語言,並在全球廣泛流傳。本書《超智慧》更是受到學術與實務領域推崇,每當人工智慧議題再起,必定名列經典必讀之作。


本文經授權轉載自感電出版《超智慧:AI風險的最佳解答》

責任編輯/郭家宏

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章