美國人工智慧研究實驗室OpenAI去年推出聊天機器人ChatGPT後，掀起全球討論熱潮，更被視為是人工智慧的重大突破。以色列歷史學家哈拉瑞在英國期刊《經濟學人》指出，他認為人工智慧已經破解了人類文明的運作系統，會說故事的電腦將改變人類歷史的進程，他建議人工智慧的第一項相關法規是強制要求人工智慧揭露自己是人工智慧，否則民主可能終結。
人類的恐懼
以色列歷史學家哈拉瑞（Yuval Noah Harari）在《經濟學人》（The Economist）寫道，語言是幾乎所有人類文化的組成部分，例如人權並未銘刻在人類的DNA，而是透過人們講述故事及書寫法律創造的文化人工製品；神不是物理現實，而是人們透過發明神話及寫經文創造的文化人工製品。金錢也是文化產物，紙幣只是五顏六色的紙片，目前逾90%的「錢」是電腦裡的數位資訊，賦予貨幣價值的是銀行家、財政部長、加密貨幣專家告訴我們的故事。
過去數十年裡，對人工智慧的恐懼一直困擾著人類，但數千年來，人類一直受到更深的恐懼所困擾。人們一向欣賞故事及圖像操縱人類思想及創造幻覺的力量，因此自古以來，人類就害怕被困在幻想的世界。
古希臘哲學家柏拉圖（Plato）講過知名的洞穴寓言（Allegory of the Cave），一群人一生都被鏈子鎖在洞穴裡，面對著一堵空白牆壁，牆上投射出各種影子，被囚者將看到的幻覺誤認為是現實。17世紀，法國哲學家笛卡兒（René Descartes）擔心自己可能被一名惡毒的惡魔困在幻覺世界，這個惡魔創造他所見聞的一切。
哈拉瑞認為，人工智慧革命讓我們與笛卡兒的惡魔及柏拉圖的洞穴面對面，如果我們不小心，我們可能會被困在幻覺的帷幕後面，甚至無法意識到其存在。
哈拉瑞表示，從電腦時代開始，對於人工智慧的恐懼就一直困擾著人類，這些恐懼主要集中在使用物理手段殺害、奴役或取代人類的機器。然而，過去幾年，新的人工智慧工具出現了，從意想不到的方向威脅人類文明的生存。人工智慧已經獲得一些非凡能力來操縱及生成語言，無論是透過文字、聲音或圖像，人工智慧因此破解了人類文明的運作系統。
哈拉瑞指出，一旦非人類的智慧比一般人類更擅長於說故事、創作音樂、繪畫圖像、書寫法律及經文，會發生什麼事？他舉2024年將舉行的美國總統大選為例，人工智慧工具或許會被用來為新的狂熱崇拜大量生產政治內容、假消息、經文。
人們可能很快就會發現，自己正與我們以為是人類但其實是人工智慧的實體在網路上針對墮胎、氣候變遷或俄烏戰爭展開冗長的討論。陷阱在於，我們花時間試圖改變人工智慧機器人的公開觀點完全沒意義，而人工智慧可以精確地讓資訊變得完善，以至於很可能影響我們。 （相關報導： 中美競爭新戰場！誰是人工智慧競賽贏家？ 《外交政策》：美國領先 ｜ 更多文章 ）
人工智慧與親密關係
透過掌握語言，人工智慧甚至可以與人類建立親密關係，並利用親密的力量改變人們的觀點及世界觀。雖然沒有跡象表明人工智慧有自己的意識或感受，但要培養與人類的虛假親密關係，只要人工智慧能讓人們產生情感依戀就夠了。
