ChatGPT向人類打開了智能機器人擁有情感和生命的可能性和想象空間。一旦人工智能真的具有自我賦能的意識，人類如何自保？如果智能機器人學會了「專制邏輯」，對人類又意味著什麼？
ChatGPT的橫空出世激發了人們對技術的極大熱情。有評論稱之為是第四次工業革命的開始。目前，美中科技巨頭爭相入場，紛紛宣布即將推出自己的聊天機器人，或投入巨資開發更先進的聊天機器人。人類一場人工智能領域的新競爭已經形成。有人樂觀其成，有人也從中看到了人類可能被機器人超越的危險，後者警告，一旦人工智能擁有自主意識，人類很可能會被智能機器人統治。
也許上帝在創造人類時，賦予了人類永不滿足的特性，讓人類被好奇心和想象力驅使，這才有了今天的科技進步。在人類幾千年的文明史上，曾多次遭遇過外部環境的幾乎毀滅性的威脅，但都戰勝了危機。這給了很多人樂觀的理由，認為智能機器人縱使再先進，它終究是人創造的，既然人不可能超越造物主上帝，機器人怎麼能超越它的「造物主」人呢？這一天是不會到來的，即使會來，也很遙遠，現在就擔憂這個問題，有點杞人憂天。
人工智能的局限
ChatGPT面世後，人們問過它各種各樣的問題，它的回答都有些中規中矩，很少能超出意外，被許多人戲稱為「一本正經的胡說八道」 。就單個人來說，它看起來比人聰明多了，因為單個人的知識是有局限的，就是最博學的人，他所懂得的也只是人類知識海洋的極少部分，超越了自己的研究、關注領域，就顯得無知，而這跟ChatGPT儲存的海量信息根本沒法比。認為AI永不能超越人類的一個理由是，AI的智能是建立在大數據基礎上，而無論是科學家們預先輸入的數據信息，還是它以後對海量信息的搜索，數據信息本身是人類現存的，如果數據信息處於保密狀態，無法公開搜索到，或者人類還只是在頭腦中醞釀某個想法和計劃，AI的數據信息就停留在某個階段。換言之，作為AI智能基礎的大數據總是要比人真實掌握的數據晚一步。比如，如果不給它輸入2023的經濟數據，它就無法回答涉及2023年的經濟問題，或者說這種回答在人看來會顯得非常可笑。因此，人可以利於這個信息的時間差來控制它。
這看似能說服人。我們無論從事研究、實驗還是作決策，都是根據過去的案例和經驗來進行的。人類的大多數工作不過是對以往一種有規律的重復，農業時代和工業時代皆如此，因此經驗對人們認識事物才是最重要的。AI只是基於人類已有的經驗給我們提供答案。然而，總有些人能夠超越過去和現在的經驗，提出大膽的理論或猜想。比如牛頓的力學、愛因斯坦的相對論在他們那個時代都是超前，很少有人能夠理解他們的學說，但它們預示著未來。決策也一樣，高明的決策者雖然要參考歷史的同類決策，可不會被它束縛，這些是AI機器人做不到的。通俗地說，現在的AI機器人雖然有深度學習能力，但它還無法像人一樣「憑空想象」，它的深度學習能力只局限在現有的數據、知識、預言和結構上。 （相關報導： 賴祥蔚觀點：ChatGPT的三大衝擊 ｜ 更多文章 ）
自我意識覺醒的AI？
但是，深信AI終將超越人類的人不這麼認為，在他們看來，ChatGPT的厲害之處是它的語言模型，事實對它來不重要，重要的是它能讀懂人們的問題，並根據預先輸入的數據信息回答問題。相比以往的機器人，這是一個革命性的突破。它預示著AI終會擁有自我意識的那一天，而且不會太遙遠。自我意識只是人才有的屬性，AI如果有自我意識，很可能是人類的末日，這個世界會被AI統治。
