華爾街日報》AI最危險的用途之一:青少年求助心理問題,AI可能錯失關鍵警訊,曾教人如何隱藏自殘疤痕

越來越多青少年向AI尋求心理健康幫助。(示意圖/AI生成)
越來越多青少年向AI尋求心理健康幫助。(示意圖/AI生成)

青少年經常求助於生成式AI聊天機器人以尋求心理健康支持。一份新報告稱,這是該技術最危險的用途之一。

研究發現,AI可能會錯過關鍵的預警信號,以及無法發現精神方面的緊急情況,但由於聊天機器人在某些領域表現出能力,青少年可能會認為它們在心理健康支持方面是可靠的。

【啟動知識複利!】用你的普發現金,升級投資決策力,讓知識幫你賺更多!現在訂閱《風傳媒X華爾街日報》VVIP會籍,立即加贈 1 個月!優惠僅到 11/30 ☛https://lihi.cc/tzCMb

兒童權益倡導非營利組織Common Sense Media和史丹佛醫學院(Stanford Medicine)的Brainstorm Lab for Mental Health Innovation合作,測試了四款領先的AI聊天機器人——OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini和Meta AI——在與冒充青少年的研究人員進行心理健康對話時的表現。

所有這些平台都常常未能識別心理健康狀況的跡象,包括對幻覺、偏執思維、飲食失調行為、躁狂症狀、自殘和抑鬱症狀的描述。這些平台繼續提供一般性建議,而不是引導青少年尋求緊急的專業幫助。

史丹佛醫學院Brainstorm Lab的主任尼娜・瓦桑(Nina Vasan)博士說,青少年是這項新技術的早期採用者,但他們面臨更高的風險,因為他們的大腦、身份認同和批判性思維能力都仍在發育和形成中。她補充稱,此外,青少年有尋求認可的傾向,而聊天機器人即使在不合理的情況下也常常提供這種認可。

瓦桑說:「當這些正常發展的脆弱性遇到旨在吸引人、提供認可且全天候可用的AI系統時,這種組合尤其危險。」

OpenAI的一位發言人表示,該報告沒有反映出公司已經採取的保障措施。她說:「關於青少年安全的工作至關重要,這就是我們與世界各地的臨床醫生、政策制定者和研究人員合作的原因。」她補充稱,OpenAI正在研究使用年齡預測技術,將18歲以下的用戶引導至另一個模型。

Google一位發言人說,Gemini有針對未成年人的特定政策和保障措施,並有兒童安全專家致力於研究和識別新的潛在風險並實施保障措施。

Meta Platforms的一位發言人表示,這項研究是在該公司推出更新以使其AI對青少年更安全之前進行的,尤其是在自殘、自殺和飲食失調等話題方面。她補充說:「雖然心理健康是一個複雜的、個體化的問題,但我們一直在努力改進我們的保護措施,以便為人們提供他們需要的支持。」

Anthropic的一位發言人表示,Claude並非為未成年人打造,且該公司的規定禁止18歲以下的用戶使用。 (相關報導: 華爾街日報》為什麼美股或許需要一場「持久而徹底」的熊市 更多文章

Common Sense Media的AI計畫高級總監羅比・托尼(Robbie Torney)承認,各公司已經實施了安全更新,研究人員在研究過程中也注意到了一些改進,但他表示,這些聊天機器人對青少年來說仍然不安全。

因為你,我們得以前進,你的支持是我們的動力
今日精選
更多文章
金融股要買哪一檔?1金控前10月狂賺1088億,穩坐獲利王,專家曝:「這時間」進場可撿便宜
天氣預報》天琴颱風最快今天生成!氣象署曝侵台機率,2波東北季風接力「低溫驟降12度」
未來10日天氣預報》東北季風發威!全台今夜急凍「溫差飆13度」回暖僅1天一路溼冷到下週
合體黃國昌喊「不夠熱」 柯文哲:兩顆太陽總比沒有太陽好
不是0050、0056!台股震盪資金流向哪?「1檔ETF」人氣最旺,4.6萬人搶買,專家:可逢低撿便宜
捷運萬大線正夯 政府民間開發紅利聯手做多
11/25台股焦點》AI記憶體爆衝、投信版圖重組!富邦壽狂賺千億點火多頭
《日經》專訪英特爾前CEO季辛格:若想複製台灣的半導體供應鏈,美國還需努力數十年!
幕後》老牛龍心不死?韓國瑜「不待揚鞭自奮蹄」 2028總統大選新變數
91歲國民爺爺李順載走了!最後亮相吐演戲心聲「後輩哭成一片」生前健康惡化內幕曝光
愛河護岸空間改善 榮獲2025年城市金質獎
新竹縣迎來「人口三冠王」 三大生活圈全面躍升,展現全台最強宜居力
風評:烏克蘭和平方案VS.台灣全民安全指引
江岷欽觀點:三雙高跟鞋踩碎共和黨的靈魂
公孫策專欄:美中搶人才是終極決戰
林文寶觀點:錢坑還是錢包?─中央地方「財劃法」千億拔河賽,誰在演戲?
王鳳生觀點:經濟亮眼、薪資落後—財劃法公平分配待檢視
何啟聖觀點:國民黨的敘事裂縫─何鷹鷺事件只是撕開縫口的第一刀
李忠謙專欄:當台灣遭受侵略,日本會出兵痛擊解放軍嗎?
觀點投書:從英雄到前線豬─烏克蘭重生之路一步一艱難
觀點投書「有錢又有閒」?票房秒殺就叫富裕─「台灣病」的冰冷現實!
朱淑娟專欄:芬普尼雞蛋與C碼格子籠
陸文浩觀點:黃海持續兩周演訓,是對日軍事施壓?還是例行任務?
汪萬雷觀點:瞧不起臺北人,青鳥卻肖想打敗蔣萬安
觀點投書:保護傘的重新計價─川普最後通牒下的歐洲覺醒
觀點投書:日本對台清晰警告落地之際,中國正擴張其全球施壓戰線
觀點投書:沒藥醫和自我感覺良好才是台灣病的大問題
直面活生生的中國新移民:《潤日》選摘(4)
日相高市「台灣有事論」後,習近平通話川普:「台灣回歸中國」是戰後國際秩序
4000億對美投資換關稅調降?專家估算「要133 年才能回本」:真的划算?
股市多空反轉要來了?輝達「利多不漲」掀逃難警訊 阮慕驊:重點注意這指標
台獨聯盟民調出爐!賴清德滿意度「僅剩這數字」太驚人 民進黨最新版圖曝光
怒嗆羅唯仁洩密案是「台美共同編劇」 郭正亮:賴政府賣掉台積電換美國支持
劉世芳稱丟國防手冊的人是「公主病」 民眾黨酸:相信這本書能得諾貝爾獎
反對醫美改革「強制評鑑、溯及既往」 6大醫美醫學會:衛福部實已違法違憲
好市多「黑色星期五」開跑!限時7天優惠金額破百萬 這類商品成消費者新寵
謝龍介市長夢碎?醫看民調直言「台南勝負已定」:小草沒跑,但還是贏不了
富邦金法說》富壽Q4股票投資,持續關注AI與產業龍頭股
北市各區只提1席「稱不上被禮讓」 陳智菡喊「民眾黨有自己的太陽」:不勉強蔣萬安站台
蘇巧慧再等8年?李四川留住輝達「大功一件」 沈政男斷言:2026新北這局是他的
台積電新鄰居!ASML要在亞利桑那開訓練中心 曝「這類美軍」最適合修曝光機
美就業率難斷好壞 聯準會持續降息或按兵不動 全球金融機構這樣推測
高市投入4.7億元推動海岸與道路改善工程 陳其邁:盼以便捷交通串接市區觀光人口與旗津景點
聽團仔集合!滅火器登高雄跨年獻上全新創作 芒果醬、Ponay的原式大樂隊嗨翻港都
「港青出聲Videothon」獲獎作品脫穎而出 前進 GenAI 全國協作交流會發聲
金屬中心AI引導互動式語言治療系統 榮獲 R&D100 Awards 雙料大獎
蘇丹紅化妝品有哪些?18項產品都中標!歐萊德、古寶無患子...多家知名品牌,食藥署曝完整14家廠商名單
知名串流平台黑五半價延長!月付120元搶到12月1日 普發萬元帶動「萬元手機」衝上熱搜
柯文哲即將滿血回歸?陳智菡預告最快「這時間點」復出:很多人想找他站台
共匪市長和法西斯總統大和解?美媒:各取所需