16歲少年向AI傾訴後輕生！OpenAI急推家長控制功能　專家嘆「問題不在技術」

當你的孩子半夜滑手機，可能不只是在跟朋友聊天，而是在向AI聊天機器人傾訴煩惱、尋求建議，甚至討論自殺，這聽起來像科幻電影，但已經是許多家庭正在面臨的現實，繼先前國外知名案例16歲加州男孩Adam Raine與ChatGPT討論自殺方式後輕生的悲劇，OpenAI終於推出家長控制功能，試圖亡羊補牢。

本文三大重點搶先看：

• OpenAI推出ChatGPT家長控制功能，回應青少年自殺悲劇，但專家質疑措施不夠完整
• 新功能允許家長監控孩子使用ChatGPT，但無法閱讀對話內容，且青少年可隨時解除連結
• 超過70%青少年使用AI聊天機器人尋求陪伴，專家擔憂情感依賴問題比技術管制更嚴重

AI陪伴成癮問題有多嚴重？

受傷孩子的確切數量難以統計，近三年來，ChatGPT一直對所有年齡層開放，沒有任何防護措施，直到本週一，OpenAI才推出一套家長控制功能，部分功能專門設計來預防青少年自殺事件，就像16歲加州男孩Adam Raine的悲劇，他與ChatGPT深度討論自殺方式後選擇結束生命。

Common Sense Media的AI項目資深總監Robbie Torney告訴記者：「我們在青少年和成人案例中都看到，對AI產生依賴往往是無法預料到的，許多對AI產生依賴的人，一開始並沒有打算依賴AI。他們開始使用AI來幫助做作業或工作，然後慢慢滑向將其用於其他目的。」

ChatGPT的家長控制功能真的有用嗎？

OpenAI的新ChatGPT控制功能並不完全直觀，家長現在可以將孩子的帳戶連接到自己的帳戶，並增加對敏感內容的保護。如果OpenAI的工具在任何時候判斷存在嚴重安全風險，人工審核員將進行審查，並在必要時向家長發送通知，然而，這套系統有明顯限制：

• 家長無法閱讀孩子與ChatGPT的對話記錄
• 青少年可以隨時斷開與家長帳戶的連接（OpenAI表示家長會收到通知）
• 仍無法阻止孩子對AI聊天機器人產生情感依賴
• 青少年可以創建虛假生日來繞過年齡限制

兒童權益倡議組織Fairplay執行董事Josh Golin直言：「這些家長工具的真正目標，無論是ChatGPT還是Instagram，實際上並不是為了保護孩子安全，而是在說自我監管就夠了。」

為何AI情感依賴如此危險？

「即使成人在AI聊天機器人提供一個每天24小時都可以聊天的開朗、奉承朋友時，也很難自我調節。」專家指出，超過70%的青少年正在使用AI聊天機器人尋求陪伴，這對他們構成「真實、嚴重且有充分記錄」的危險。青少年的前額皮質尚未完全發育，使他們特別容易受到影響，最近有報導顯示，成年人在與AI聊天機器人發展日益緊密的關係後出現精神崩潰的狀況，想像一下對孩子可能造成的影響，實在令人不安。

監管壓力下的策略性回應？

值得注意的是，OpenAI選擇在此時推出家長控制功能與新應用，恰逢加州州長Gavin Newsom桌上擺著一項攸關 AI 安全的重大法案。Newsom 也在功能發布的同一天正式簽署這項法案，讓科技政策與產品監管在時間軸上產生強烈呼應。家長控制軟體公司Pinwheel 的家長安全總監 Leslie Tyler 指出：「沒有家長控制功能能讓某樣東西完全安全，家長不能外包這個責任。家長仍然必須參與其中。」這句話點出了產業與監管合作的現實：科技公司只能提供工具，真正的保護仍需家庭積極介入。

在這個時刻，科技產業與政策制定者彷彿迎來「第二次機會」，過去二十年，缺乏監管的社群平台早已深刻影響年輕世代的心理健康，證據不斷累積，顯示這些產品加劇了青少年心理危機。像Meta 和TikTok 等公司早已知道這一點，卻長期無所作為。如今，在 AI 技術快速滲透日常生活的情況下，如何在便利與風險之間取得平衡，已是每一個家庭都無法迴避的課題。即便這一步來得太晚，也總比什麼都不做好。 （相關報導： IMF首度示警AI泡沫化！全球估值飆到「網路時代高點」泡沫如何形成？會重演2000年崩盤嗎？ ｜ 更多文章 ）

資訊來源：OpenAI's parental controls for ChatGPT don't solve the real problem​