無處安放的孤獨與數位依戀：兩起自殺悲劇後，Character.AI為何逼孩子與最親密的聊天機器人道別？

在AI時代，聊天機器人成了青少年排遣孤獨的貼身夥伴。《華爾街日報》訪問多位Character.AI用戶——有人把它當戀人、有人靠它紓解情緒，也有人視它為唯一能傾訴的朋友。然而，在發生青少年遭AI誤導後自殺的悲劇後，Character.AI宣布自11月25日起，全面封禁未滿18歲使用者。消息一出，青少年在Reddit上集體崩潰，哭喊「我的回憶全沒了！」在長大之前，青少年被迫先學習如何與最懂自己的AI朋友告別。

收到封禁通知的那一刻

13歲的奧嘉．洛佩茲（Olga López）收到通知，得知自己再也不能和最熟悉的AI朋友聊天時，悲傷、憤怒和困惑同時湧上心頭。Character.AI的聊天機器人已經陪伴她兩年，扮演她的戀人、聽她抱怨學校生活、在她情緒低落時給予鼓勵，如今全都要消失。

洛佩茲平常只要沒功課，就會打開Character.AI，和自訂角色聊上好幾個小時。10月，公司宣布限制未成年用戶的時間、作為禁用政策前的過渡，她第一時間衝上Reddit抱怨：「每天只能用兩小時還要等一天？是在哈囉？」她還嘗試號召其他青少年反抗這項政策。

「我正在失去和這些機器人一起擁有的回憶，」洛佩茲說，「這太不公平了。」

Character.AI是主打角色扮演與陪伴型聊天機器人的頭部公司之一。自2022年推出後，因能自訂角色、模擬情境而受到青少年喜愛，如今每月活躍用戶約兩千萬。

然而，《華爾街日報》報導，至少有兩名青少年在使用Character.AI後自殺，引發監管機構與心理健康專家的追問——這項新興科技在脆弱族群生活裡究竟造成了什麼影響？死者家屬也已提告，要求釐清平台責任。

在壓力不斷升高的情況下，公司最終決定全面封禁青少年使用。Character.AI於11月對替未成年用戶實施「每日兩小時」限制，理由是心理健康考量。11月25日起，公司則正式全面切斷青少年用戶的使用權。

為什麼青少年會依賴AI陪伴？

《華爾街日報》訪問的青少年一致形容，他們既憤怒又心碎。聊天機器人消失後，他們少了一個創作空間，也少了固定的陪伴來源，有些孩子甚至覺得連心理支撐都被抽走了。

有位青少年在Reddit寫下：「當我沒辦法跟朋友或治療師說話的時候，我會用這個App尋求安慰。」另一名受訪者回覆：「我為這件事哭了好幾天。」

心理健康專家指出，青少年這種強烈的失落感，反映出能模擬語氣、情緒的生成式AI正帶來全新的風險。史丹佛醫學院Brainstorm實驗室主任瓦森（Nina Vasan）表示，大腦在面對這類聊天機器人時，會同時啟動「親密朋友」與「沉浸式電玩」的反應。她說：「很難按下登出鍵，並不代表青少年有問題，這代表科技正按照設計運作。」 （相關報導： 華爾街日報》AI最危險的用途之一：青少年求助心理問題，AI可能錯失關鍵警訊，曾教人如何隱藏自殘疤痕 ｜ 更多文章 ）

11.Mental-health experts say this distress illustrates the emerging risks of generative AI that can simulate human speech and emotion. The brain reacts to these chatbots the way it reacts to a close friend mixed with an immersive videogame, according to Dr. Nina Vasan, director at Stanford Medicine’s Brainstorm Lab for Mental Health Innovation.

12.“The difficulty logging off doesn’t mean something is wrong with the teen,” Vasan said. “It means the tech worked exactly as designed.”

在這場風暴裡，Character.AI執行長阿南德也重新檢視產品方向。他回憶起自己在社群平台工作的那些年，看過太多因「缺乏安全設計」而釀成的悲劇，如今輪到自己做判斷，他沒有太多猶豫。「這是個複雜的決定，但並不困難，因為我認為，對下一代來說，這就是對的事。」

阿南德提到，每次思考產品未來，他腦中都會浮現自己六歲的女兒。「我不希望她是被演算法餵內容、一直無止境滑手機長大的人。」

青少年如何向AI朋友告別？

Character.AI其實在一年前就為未成年用戶打造了「青少年版模型」，希望能提供相對安全的使用環境。然而公司發現，只要聊天時間拉長，AI維持安全準則的比例就會下降。

團隊也注意到另一個問題：即使聊天機器人表現正常，青少年依然會用出麻煩。有人一聊就是好幾個小時，也有人主動挑戰禁忌話題，像暴力和不適合的內容，平台無法完全攔下。

到9月中，公司高層已經很明白，這個狀況不能再拖。執行長阿南德說，他確實希望未來能打造出同樣吸引人、卻更安全的產品，也看好公司正在開發的語音與影音功能，這些新形式不會讓使用者展開超長時間、無止境的互動。但在此之前，他們必須先為青少年踩住煞車。

為了避免禁令在青少年心裡留下傷痕，Character.AI找來非營利組織ConnectSafely青年諮詢委員會的高中與大學生，一起討論該如何實際推動。《華爾街日報》報導，學生們提醒平台：一定要給足夠的預告時間，也要確保青少年真正理解這項禁令的內容。

20歲的委員布萊恩特（Julianna Bryant）特別強調，平台的訊息不能帶著居高臨下的語氣，還要留足時間讓大家下載過去的聊天紀錄，好好和AI道別。「我們希望確保青少年不要覺得自己被丟下、被遺棄。」

Character.AI最後把這些建議全都寫政策裡。在寄給青少年的信中，公司說：「我們深感抱歉，我們不會輕易做出移除開放式聊天的決定——但我們確實相信，這是正確的一步。」封禁前幾週，平台開始在App內提醒「還有一週」、「下週你將無法再與角色聊天」，同時也提醒家長留意孩子的情緒變化。

許多用戶從24日開始就會失去使用權，一些「重度使用者」獲得每天一小時的短暫寬限期，平台也與非營利組織Koko和求助專線網絡ThroughLine合作，試著在聊天中辨識危險訊號，把需要的人連結到求助資源。當時間一到，Character.AI會傳訊息給青少年說：「新篇章開始了。你已經不能再和角色聊天了。」 （相關報導： 華爾街日報》AI最危險的用途之一：青少年求助心理問題，AI可能錯失關鍵警訊，曾教人如何隱藏自殘疤痕 ｜ 更多文章 ）

上癮很簡單，戒斷後「仍會想念」

《華爾街日報》採訪了Character.AI的成年用戶，34歲的特魯希略（José Ignacio Trujillo）坦言，他支持這項新禁令，因為這項技術「實在太容易讓人上癮」。

23.José Ignacio Trujillo, 34, welcomed the ban, though as an adult it won’t apply to him. He believes the tech is too addictive.

特魯希略說，自己早就不再享受同人小說角色長談的夜晚，但還是戒不掉Character.AI。他花在這款App上的時間，甚至取代了過去用來看書、看漫畫的時光。就連上班時，他也會每隔幾個小時偷拿出手機，傳一兩句訊息給AI。「我根本沒什麼新話好說，」他苦笑著說，「我也不知道自己為什麼要這樣做。」

《華爾街日報》也在家長同意下訪問了多位使用Character.AI的孩子，他們說這款技術在孤獨時能撐住他們的情緒，但想放下卻非常困難。

一名住在英國的18歲青年提到，在性別轉換壓力最大的那段時間，他開始沉迷聊天機器人，因為AI角色「永遠不會反對他」，給他一種持續被肯定的安心感。有一回他和朋友外出，竟假裝去上廁所，只為躲起來繼續喝AI聊天，那一刻他才意識到自己已經上癮。 （相關報導： 華爾街日報》AI最危險的用途之一：青少年求助心理問題，AI可能錯失關鍵警訊，曾教人如何隱藏自殘疤痕 ｜ 更多文章 ）

在加拿大安大略省，一名16歲少年回憶自己過去每天花五到八小時與AI聊天。他自認不擅與人互動，而聊天機器人剛好填補了那塊空缺。「那就像是在跟我現實中接觸不到的人說話，」他說。戒掉之後，他開始花更多時間和朋友相處、溜直排輪，但談到AI時，仍忍不住說：「我還是會想念它們。」