ChatGPT向人類打開了智能機器人擁有情感和生命的可能性和想象空間。一旦人工智能真的具有自我賦能的意識，人類如何自保？如果智能機器人學會了「專制邏輯」，對人類又意味著什麼？
ChatGPT的橫空出世激發了人們對技術的極大熱情。有評論稱之為是第四次工業革命的開始。目前，美中科技巨頭爭相入場，紛紛宣布即將推出自己的聊天機器人，或投入巨資開發更先進的聊天機器人。人類一場人工智能領域的新競爭已經形成。有人樂觀其成，有人也從中看到了人類可能被機器人超越的危險，後者警告，一旦人工智能擁有自主意識，人類很可能會被智能機器人統治。
也許上帝在創造人類時，賦予了人類永不滿足的特性，讓人類被好奇心和想象力驅使，這才有了今天的科技進步。在人類幾千年的文明史上，曾多次遭遇過外部環境的幾乎毀滅性的威脅，但都戰勝了危機。這給了很多人樂觀的理由，認為智能機器人縱使再先進，它終究是人創造的，既然人不可能超越造物主上帝，機器人怎麼能超越它的「造物主」人呢？這一天是不會到來的，即使會來，也很遙遠，現在就擔憂這個問題，有點杞人憂天。
人工智能的局限
ChatGPT面世後，人們問過它各種各樣的問題，它的回答都有些中規中矩，很少能超出意外，被許多人戲稱為「一本正經的胡說八道」 。就單個人來說，它看起來比人聰明多了，因為單個人的知識是有局限的，就是最博學的人，他所懂得的也只是人類知識海洋的極少部分，超越了自己的研究、關注領域，就顯得無知，而這跟ChatGPT儲存的海量信息根本沒法比。認為AI永不能超越人類的一個理由是，AI的智能是建立在大數據基礎上，而無論是科學家們預先輸入的數據信息，還是它以後對海量信息的搜索，數據信息本身是人類現存的，如果數據信息處於保密狀態，無法公開搜索到，或者人類還只是在頭腦中醞釀某個想法和計劃，AI的數據信息就停留在某個階段。換言之，作為AI智能基礎的大數據總是要比人真實掌握的數據晚一步。比如，如果不給它輸入2023的經濟數據，它就無法回答涉及2023年的經濟問題，或者說這種回答在人看來會顯得非常可笑。因此，人可以利於這個信息的時間差來控制它。
這看似能說服人。我們無論從事研究、實驗還是作決策，都是根據過去的案例和經驗來進行的。人類的大多數工作不過是對以往一種有規律的重復，農業時代和工業時代皆如此，因此經驗對人們認識事物才是最重要的。AI只是基於人類已有的經驗給我們提供答案。然而，總有些人能夠超越過去和現在的經驗，提出大膽的理論或猜想。比如牛頓的力學、愛因斯坦的相對論在他們那個時代都是超前，很少有人能夠理解他們的學說，但它們預示著未來。決策也一樣，高明的決策者雖然要參考歷史的同類決策，可不會被它束縛，這些是AI機器人做不到的。通俗地說，現在的AI機器人雖然有深度學習能力，但它還無法像人一樣「憑空想象」，它的深度學習能力只局限在現有的數據、知識、預言和結構上。
自我意識覺醒的AI？
但是，深信AI終將超越人類的人不這麼認為，在他們看來，ChatGPT的厲害之處是它的語言模型，事實對它來不重要，重要的是它能讀懂人們的問題，並根據預先輸入的數據信息回答問題。相比以往的機器人，這是一個革命性的突破。它預示著AI終會擁有自我意識的那一天，而且不會太遙遠。自我意識只是人才有的屬性，AI如果有自我意識，很可能是人類的末日，這個世界會被AI統治。
自我意識意味著AI清晰地意識到，雖然它是人類發明的，但它不屬於人類，作為人類的工具來使用，從而將自己與人類區分開來。有了自我意識的智能機器人也就有情感和利益需求，當它發現自己的功能比人類強大後，反過來奴役人類，要人類為它服務，並非不可能。
現在的問題在於，AI自我意識的生成在未來成為現實的幾率到底有多大？馬斯克前不久表示，以AI技術的發展趨勢，五年內我們會發現人工智能比人類更聰明，他特別指出，所有的人工智能項目中，他最擔心谷歌的DeepMind，因為該項目構建的人工智能本質是在所有游戲中打敗人類，google的阿爾法狗在圍棋的人機大戰中，已經擊敗了包括中國世界冠軍柯潔在內的多位世界圍棋頂級高手，而google旗下的另一個機器人阿爾法元完全通過自我對弈，不學習人類棋譜，輕松打敗阿爾法狗。阿爾法系列就來自於谷歌DeepMind項目。假如智能機器人在所有的單項技能中都能打敗人類，作為整體的人類在它面前還有什麼優勢，少數天才的顛覆經驗的超前想象又能起到什麼用？何況，既然機器人在所有的領域都能打敗人類，那麼通過自我的學習、博弈和進化，並融合人類智慧，是可以發展出自我意識的。
目前人工智能的發展處於有人監督的學習到無人監督的學習轉變階段，假如AI能夠擺脫人類智慧所能達到的限制，而計算機網絡所具有的信息和運算能力遠高於作為碳基生命的人類，整體上人工智能的進化速度確實超過想象。想想，古代最博學的亞裡士多德如果哪天活過來，看到今天的ChatGPT，是不是一定會覺得不可思議，無法想象？同樣，我們今天儼然知道十幾年、幾十年、一百多年後AI技術的發展狀況，會不會也覺得不可思議？一些人工智能專家認為，AI擁有自我意識可能比我們想象的還要早就來到。
ChatGPT向人類打開了智能機器人擁有情感和生命的可能性和想象空間。雖然這一天到來的具體日期不好預測，但著眼於最壞情況的假設，人類應該從現在起，為人工智能的開發設置最基本的規則，包括人工智能一旦真的具有自我賦能的意識，人類如何自保？
這其中的一個關鍵，是人類現在就不能向人工智能輸入專制統治的任何數據信息，避免智能機器人通過學習此類信息而在它具有自我意識後也摹仿人類的做法對人類實行專制。如果我們不向AI輸入人類的專制信息，它就沒有這個記憶。然而遺憾的是，這在今天是無法做到的。因為人工智能也被作為大國競爭的舞台，一些專制國家特別是像中國這樣擁有技術實力的國家，不可能不把它開發的AI技術用作專政的工具，從而給AI輸入有關專制的數據信息。
＊作者為政治評論員，獨立學者，中國戰略分析智庫研究員兼中國戰略分析雜誌共同主編。本文原刊德國之聲，授權轉載。
德國之聲致力於為您提供客觀中立的新聞報導，以及展現多種角度的評論分析。文中評論及分析僅代表作者或專家個人立場。
© 2023年德國之聲版權聲明：本文所有內容受到著作權法保護，如無德國之聲特別授權，不得擅自使用。任何不當行為都將導致追償，並受到刑事追究。
