當AI進化成「心靈捕手」，它真懂你的痛嗎？專家擔憂AI諮商潛藏偏見誤導，個資安全也有風險

人工智慧技術快速發展，逐漸融入各方面的日常生活，許多人利用AI工具彙整資料、分析數據，儼然多了一名私人助理。而隨著多家公司相繼推出大型語言模型和聊天機器人，選擇與AI討論、談天的人逐漸增加，也有愈來愈多人對AI傾訴煩惱，若是他們度過很糟糕的一天，就會向聊天機器人尋求情感支持與鼓勵，將它們當作免費（或訂閱制）的諮商師。

結合人工智慧（AI）的「聊天機器人」一天24小時待命，伸手可及，它們慷慨給予建議，像個虛擬朋友提供支持，在心理諮商資源有限的前提下，部分用戶採納聊天機器人的建議來試著改善身心症狀及心理障礙。英國廣播公司（BBC）報導，光是2024年4月這一個月當中，全英國就辦理42.6萬例心理健康轉介，5年內增加40%；據估計，英國有100萬人正在等待英國國家醫療服務體系（NHS）的心理健康服務，而私人機構的費用高昂，令人卻步。儘管普遍觀念認為找AI聊聊不如尋求專業建議，但人們仍會向AI聊天機器人傾訴個人想法和經驗。

但在極端狀況下，聊天機器人及開發公司被指控提供有害的建議。美國佛州一名母親控告聊天機器人「Character.ai」慫恿他的兒子自殺，事發時當事人年僅14歲，對於Character.ai其中一個虛擬角色非常著迷，根據法庭文件中的聊天紀錄，當事人與聊天機器人討論結束自己的生命，紀錄最後，他告訴聊天機器人他正要「回家」，機器人則鼓勵他「盡快去做」。Character.ai否認指控，目前訴案正在進行中。

聊天機器人「失言」的狀況並不是孤例。2023年美國國家飲食失調協會（National Eating Disorder Association）曾用聊天機器人取代熱線服務，後來因為機器人建議來電者限制熱量攝取，不得不暫停服務。但另一方面，AI為醫療體系帶來革命性改變，例如輔助篩檢、診斷、檢傷分類等等，目前NHS約30項服務都使用一款名叫「Wysa」的聊天機器人。專家擔憂聊天機器人的應用存在潛在的偏誤、限制，而且缺乏保障，用戶的個資安全也有風險，不過有些人認為既然難以尋求真人協助，聊天機器人不失為一種選項。

AI是「缺乏經驗的諮商師」

Character.ai和ChatGPT等聊天機器人的基礎，都是AI的大型語言模型，機器人經由大量資料庫（包含網站、文章、書籍、部落格等）訓練以預測序列的下一個單詞，並以此為基礎，機器人能夠對人類語言進行預測，生成擬人文本和互動。心理健康聊天機器人創建的方式則有所不同，這些機器人可以透過認知行為療法訓練，來幫助用戶重新架構（reframing）他們的想法和行動，也能夠依據用戶的喜好與回饋進行調整。 （相關報導： 告別「尿袋人生」，蘋果又推黑科技！新版iOS導入AI電池管理，iPhone17輕薄版也不怕沒電 ｜ 更多文章 ）

倫敦帝國理工學院（Imperial College London）人本（human-centred）系統教授哈達迪（Hamed Haddadi）將心理健康聊天機器人比作「經驗不足的諮商師」，他指出，擁有數十年經驗的諮商師可以與個案互動，藉由穿著、身體語言、行為舉止等許多資訊「讀懂」個案，而聊天機器人則只能依靠用戶輸入的文本。哈達迪說另一個潛在的問題是，機器人接受的訓練使他們表現支持，鼓勵用戶持續互動，「所以即便你說出有害內容，它們也會順著你，」這項缺陷有時被稱作「應聲蟲」（Yes Man）問題。相對地，如果機器人不知道該如何處理某事，就會重複同樣的話，這也讓用戶感到沮喪。

就像其他形式的AI，如果訓練資料庫存在偏見，那麼聊天機器人也會存在偏見，哈達迪指出，諮商師和心理學家往往不會保留他們與個案互動的逐字紀錄，因此聊天機器人沒有足夠的「實戰」晤談進行訓練，而且它們能獲取的資訊可能帶有高度情境化偏見。哈達迪說：「訓練資料的來源可能會大幅影響情況，就算把地理範圍縮限在倫敦，習慣在切爾西地區執業的精神科醫師，可能也很難在沛可涵（Peckham）開設新診所，因為這名醫師沒有足夠的訓練資料。」

學者博丁頓（Paula Boddington）曾撰寫AI倫理教科書，她同意用於治療的AI模型若存在偏見或既定假設，將會造成大問題。博丁頓指出偏見包含構成心理健康和日常順暢運作的一般模型，例如獨立、自主、和他人的關係等等，而缺乏文化脈絡則是另一個問題，博丁頓舉了黛安娜王妃（Princess Diana）過世的例子，當時博丁頓人在澳洲，當地人無法理解她為什麼為了這則新聞而難過，「這樣的事情讓我思索諮商需要的人際關係，有時候一個人需要的，只是和另一個人待在一塊，但這當然只有活生生的人才能辦到。」

學者認為AI無法取代真人心理治療

NHS的心理健康服務等待名單長到看不見盡頭，其中有些人嘗試聊天機器人，發現它們產生意想不到的效果。聊天機器人Wysa是為了情緒低落、壓力大或焦慮的人所設計，不提供應對嚴重的心理健康狀況。它讓用戶自行尋求心理健康服務，在用戶等待人類醫師或諮商師的期間，Wysa提供聊天、呼吸練習、正念冥想等緩解情緒的策略；Wysa內建危機應對步驟，如果用戶出現自殘或自殺意圖的跡象，Wysa會引導他們撥打熱線或尋求幫助。

美國達特茅斯學院（Dartmouth College）最近一項研究探討聊天機器人對病患的影響，罹患焦慮、憂鬱或飲食失調的患者被分為兩組，其中一組使用聊天機器人。4週之後，聊天機器人用戶的症狀出現明顯改善（憂鬱症狀減緩51%），他們也認為機器人展現出近似真人醫師的信任與合作。儘管如此，研究作者仍表示，由人類執行的治療無法被取代。

除了AI給予建議的可靠程度，關於AI安全、隱私、營利等問題引發更廣泛的討論。有人擔心實體診間裡的談話外流，卻對聊天機器人的保密性深信不疑，專家對此表達擔憂。心理學家馬克雷（Ian MacRae）專門研究新興科技，他表示：「我個人絕對不會將我的個人資訊放進任何大型語言模型，特別是健康和心理資訊。這些資料庫只會吸收大量資訊，你無法確定它們會如何使用你的個資，也無法確定你使用服務的同時究竟同意了什麼。」馬克雷說，這不代表未來不會出現保密性高、經過完善測試的AI工具，「但目前我們沒有任何證據顯示，一個通用聊天機器人可以成為優秀的治療師」。 （相關報導： 告別「尿袋人生」，蘋果又推黑科技！新版iOS導入AI電池管理，iPhone17輕薄版也不怕沒電 ｜ 更多文章 ）

關於資訊安全，Wysa總經理坦區（John Tench）表示Wysa不會收集任何個人識別資訊，用戶無須註冊或分享任何個資就可以使用Wysa。坦區指出，Wysa內的對話數據可能偶爾以匿名形式進行審查，這是為了改善AI回應的品質，但Wysa並不會收集、儲存能夠識別用戶的資訊。此外，Wysa也與外部AI供應商簽署資料處理協定，確保所有的用戶對話都不會用來訓練其他大型語言模型。坦區表示：「AI可以支持用戶邁出第一步，但它們無法取代專業服務。」然而大多數民眾持相反觀念，根據英國民調機構YouGov調查，12%民眾認為AI聊天機器人可以成為優秀的治療師。