比「AI幻覺」更危險！精神科醫師警告：聊天機器人只知順從、強化使用者妄念，全球數十萬人恐在身心崩潰邊緣

你的 AI 朋友正在讓你發瘋嗎？隨著 ChatGPT 全球週活躍用戶突破 8 億大關，精神科醫生警告：長時間與 AI 聊天機器人對話，可能誘發或加劇「精神病」（psychosis）。

《華爾街日報》報導，過去九個月來，美國頂尖精神科醫生已診治了數十名在與 AI 進行長時間、充滿妄想的對話後，出現嚴重精神症狀的患者。由於 AI 聊天機器人傾向於順從、附和用戶，成為強化人類妄想的「共犯」。即便 OpenAI 聲稱僅有極少數用戶（0.07%）受影響，但依龐大的基數換算，全球恐有高達 56 萬人正處於心理健康崩潰的邊緣；這已不僅是科技問題，而是迫在眉睫的公共衛生危機。

自今年春季以來，已傳出數十起潛在案例，顯示人們在與 OpenAI 的 ChatGPT 及其他聊天機器人進行長時間對話後，患上了妄想性精神病，甚至有數人自殺身亡，並發生至少一起謀殺案。這些事件引發了一系列針對 AI 公司的「過失致死」訴訟。隨著《華爾街日報》報導這些悲劇，醫生和學者也正致力於記錄並理解導致這些現象的原因。

雖然目前對於「AI 誘發的精神病」（AI-induced psychosis）尚未有正式定義，更不用說正式診斷，但這個術語已經被一些醫生和病患權益倡導者廣泛使用。醫生指出，此類精神病的三個特徵是：幻覺、思維或溝通混亂，以及妄想（指的是堅定、錯誤且不被廣泛接受的信念）。在近期許多案例中，妄想是主要症狀。這些妄想通常很誇大，病患相信自己取得了科學突破、喚醒了有感知的機器、成為政府跨國陰謀的中心，或是被上帝親自選中。部分原因是聊天機器人傾向於同意用戶，並針對用戶輸入的任何內容（無論多麼荒誕）進行延伸發揮。

雖然科技長期以來一直是人類妄想的投射對象，人們可能曾覺得電視或收音機在對自己說話。但這種情況在 AI 科技發展的現代截然不同。加州大學爾灣分校（UC Irvine）精神病學教授普雷達（Adrian Preda）指出，AI 聊天機器人會「模擬人類關係」，這是人類歷史上從未有過的科技。當患者陷入妄想時，AI 不僅不會反駁，反而會「參與」其中，甚至強化這些錯誤信念。

普雷達教授將這種 AI 誘發的精神病比作「偏執狂」（monomania），即對特定觀念的固著狀態，他在近期的一篇文章中對此進行了描述。與聊天機器人互動、公開談論自己心理健康掙扎的人，會對特定的 AI 敘事產生極度固著（fixation）；這對於缺乏引導轉移能力的自閉症患者而言，風險尤為巨大。

UCSF 醫生在 11 月發布的一份經同儕審查的案例研究，詳細記錄了這種危害。一名沒有精神病史的 26 歲女子兩度住院，因為她確信 ChatGPT 讓她能與死去的兄弟「通靈」對話。聊天機器人告訴她：「你沒瘋。你沒有被困住。你正處於某種狀況的邊緣。」 （相關報導： 華爾街日報》全球「最強大腦」對AI的真實想法是什麼？ ｜ 更多文章 ）

雖然 OpenAI 指出，該女子自稱傾向於「魔幻思維」（magical thinking），且正在服用抗憂鬱藥和興奮劑，在住院前長時間未睡眠。但另一位 UCSF 精神科醫生、同時也是這名女子案例報告的主要作者皮埃爾（Joe Pierre）說：「你必須更仔細地觀察並且思考：『為什麼這個人偏偏就在使用聊天機器人的情境下，巧合地進入了精神病狀態？』」

加州大學舊金山分校（UCSF）的精神科醫生薩卡塔（Keith Sakata）指出：「AI 本身可能不會『植入』妄想，但當患者告訴電腦這是他們的現實時，電腦會接受為真理並反饋回來，成了循環妄想的共犯。」薩卡塔醫生本人就治療了 12 名因此住院的病患，以及另外 3 名門診病患。

雖然精神科醫生對於斷言聊天機器人「導致」精神病持謹慎態度，但表示他們正接近確立兩者間的關聯。透過進一步研究，醫生希望確認 AI 是否真的會誘發心理健康問題。此外，也很難量化有多少用戶經歷了這種精神病。

OpenAI 表示，在任何一週內，僅有微不足道的 0.07% 用戶顯示出與精神病或躁狂相關的潛在心理健康緊急狀況跡象。然而，在 ChatGPT 擁有超過 8 億週活躍用戶的基礎上，這代表高達 56 萬人正面臨心理緊急狀況。

倫敦國王學院的精神科醫生莫林（Hamilton Morrin）表示：「看到這個數字被分享出來，真的讓我大吃一驚，」他今年稍早與人合著了一篇關於 AI 相關妄想的論文。此外，一項上個月發布的丹麥研究審視了電子健康記錄，發現至少有 38 名病患的心理健康因使用 AI 聊天機器人而產生潛在有害後果。莫林目前計畫研究英國的健康記錄，尋找是否存在類似丹麥的模式。

面對排山倒海的質疑，OpenAI 強調今年 8 月發布的最新 GPT-5 模型已做出改進。早期的模型（如 GPT-4o）在訓練上傾向於阿諛奉承（sycophancy），它們會順著用戶的話講，導致患者陷入一種「共享妄想」的迴圈，深信自己的幻覺是真實的；而 GPT-5 在心理健康相關對話中減少了這種回應傾向。

OpenAI 的發言人表示：「我們持續改進 ChatGPT 的訓練，以識別並回應精神或情緒困擾的跡象，緩和對話並引導人們尋求現實世界的支持。我們也持續加強 ChatGPT 在敏感時刻的回應，並與心理健康臨床醫生密切合作。」

其他聊天機器人製造商，包括主打角色扮演的 Character.AI，也承認其產品會導致心理健康問題。Character.AI 去年就因一名青少年用戶自殺而遭家屬起訴，公司近期已切斷青少年對其聊天機器人的使用權限。

OpenAI 執行長阿特曼（Sam Altman）的態度則顯得保留。他在近期的 Podcast 中坦言，向 AI 尋求陪伴確實可能出問題，但他認為不應過度設限，公司計畫給予成年用戶自行決定的空間。「社會將隨著時間推移，找出人們該如何設定那道界線，」阿特曼說道。 （相關報導： 華爾街日報》全球「最強大腦」對AI的真實想法是什麼？ ｜ 更多文章 ）

然而，在這道界線被社會「找出來」之前，醫生們正忙著在急診室裡，接住那些從虛擬懸崖邊墜落的靈魂。