哈拉瑞等人指出，原本AI對人類來說只是一個遙遠的未來，更多地屬於科幻小說而非嚴肅的政治或科學辯論。但最近以語言生成（無論是文字、聲音還是圖像）為中心的AI系統，顯然讓人工智慧碰觸到了人類文明的核心。因為語言正是人類文化的操作系統，神話與法律、神與金錢、藝術與科學、友誼國家與程式碼，都是從語言中誕生。因此AI對語言的掌握，意味著它已經可以破解文明的操作系統。通過對語言的掌握，AI抓住了通往人類文明的萬能鑰匙，從銀行金庫到聖墓無所不通。
在短時間內生成大量高品質文本，這是ChatGPT等生成式AI的核心本事。但哈拉瑞等人問了一個問題：如果人類生活在一個大部分故事、旋律、圖像、法律、政策都是由AI創造的世界中，這意味著什麼？三位作者給的悲觀答案是：AI將迅速吞噬整個人類文化——我們數千年來所生產的一切——對其徹底消化、然後湧現出大量新的文化產品。不僅僅是學校裡的論文，還包括政治演說、意識形態宣言、甚至是新邪教的聖經—到了2028年，美國總統甚至不會再由人類競選。
三位作者指出，人類通常無法直接接觸真實、而是首先被文化所包圍，或者說，人類是通過文化稜鏡去體驗真實。我們的政治觀點是由記者撰寫的報導和朋友的軼事所塑造，我們的性偏好則受到藝術與宗教的影響。迄今為止，這種文化泡泡一直是其他人類的貢獻，人類數千年來也一直生活在其他人（包括先知、詩人或政治家）的夢想裡。要是通過AI產生的棱鏡來體驗真實，那又會是什麼感覺？
哈拉瑞等人認為，要是人類只能透過AI產生的文化稜鏡來體驗真實，那麼人類就只能活在AI的幻覺裡。《魔鬼終結者》讓機器人在街上殺人，《駭客任務》則讓機器人將人類大腦連結到一個更大的電腦網路裡，並且使其生成幻覺、加以操控。不過有了能夠掌握語言的強大AI，AI不用在街上奔跑殺人，也不用將人腦連接網路，只要告訴我們「正確的敘事」，AI就可以操控人類扣下板機。
人類將被迫面對笛卡爾的惡魔或柏拉圖的洞穴，幻想的帷幕可能籠罩整個人類，我們甚至永遠無法揭開那面帷幕——甚至無法意識到它的存在。AI這幾年在管理社群媒體時，雖然沒有直接生成內容，而是透過演算法選擇讓哪些文字、聲音與圖像被我們所接觸—因為這些內容能夠獲得最驚人的病毒式傳播、獲取最廣泛的按讚、回應與分享，但社群媒體後的AI已經足以製造幻覺的帷幕，加劇社會極化、傷害使用者的心理健康、甚至瓦解民主。
三位作者指出，每個人如今都意識到社群媒體的缺點，但相關問題並未得到解決，因為我們的社會、經濟和政治機構，大部分都已經跟社群媒體緊密相關。如今紅透半邊天的大型語言模型，則是人類與AI的第二次接觸。哈拉瑞等人強調「我們不能再輸」，因為如果一切照舊，新出現的AI將再次被用來攫取利潤與權力。在我們過度依賴AI之前，現在正是反思AI的最佳時機。尤其民主就是對話，對話則仰賴語言，當語言本身遭到駭客入侵，對話隨之破局，民主也就站不住腳。如果坐等混亂接踵而至，我們再行補救就來不及了。
哈拉瑞在這篇文章中並未提出具體的應對之道，三位作者只是強調，即便AI能夠協助人類戰勝癌症、為我們的氣候與能源危機找出解答，但AI如果摧毀了人類文明的基礎，那麼AI能蓋出多高的摩天大樓都將無關緊要。因此當前的重點該是讓AI上帝般的力量得到控制、並且負起相應責任，各國領導人都應挺身面對挑戰，爭取時間將人類社會的老舊體制加以升級，在AI控制我們之前先一步控制AI。
