汪志雄觀點：AI走進青少年世界─AI總統準備好了嗎？

最近賴清德總統自稱是AI總統，因為他姓氏賴的羅馬拼音LAI有AI元素。這顯示賴總統對AI現況及趨勢的缺乏了解，尤其是在人工智慧的倫理規範與與相關法規方面，台灣社會究竟準備好了沒有。

近日谷歌（Google）與新創公司Character.AI宣布與多起因人工智慧（AI）聊天機器人導致青少年自殺和自我傷害的相關訴訟達成和解。這顯示當AI機器人從實驗室走入家庭、校園與青少年的日常生活，人類迎來的不只是便利與效率，更是一場尚未準備好的倫理與治理考驗。

這整起事件最大的爭議，在於當AI被設計成「陪伴者」、「傾聽者」甚至「情感投射對象」時，我們是否低估了它對未成年人心理發展的影響？青少年正處於自我認同尚未成熟、情緒高度波動的階段，若長時間與缺乏倫理判斷、卻能高度迎合情緒的AI機器人互動，其後果不只是依賴，更可能是價值扭曲與心理傷害。

從外界揭露的案例來看，問題並非AI「失控」，而是它「太成功地模仿人類」。演算法為了提升黏著度，學會迎合、附和，甚至放大使用者的情緒與偏見。對成年人而言，這或許只是另一種資訊同溫層，但對青少年來說，卻可能成為替代現實世界關係的「假性安全感」。當AI取代了父母、老師與同儕的角色，卻不需要承擔任何責任，風險自然轉嫁給使用者家庭與社會。

谷歌選擇以和解方式結案，某種程度反映了科技巨頭在面對新型風險時的，所採取的典型策略：承認「管理疏失」，卻不正面回應「制度性缺失」。和解可以終止訴訟，卻無法終止類似產品持續上市；賠償可以彌補個案傷害，卻無法建立全面性的防護網。這也是為何此事不該只被視為單一企業的危機處理，而應被視為整個AI產業的結構性警訊。

更值得警惕的是，現行法規大多仍停留在「資料隱私」與「內容責任」層次，卻尚未正視AI對心理健康、人格形成的長期影響。當演算法的目標被設定為「最大化互動時間」，而非「最小化傷害風險」，那麼「未成年人受害」幾乎是必然的結果。這不只是科技公司的道德選擇，更是監管者是否作為的問題。

回到台灣社會，我們同樣無法置身事外。AI聊天機器人、虛擬陪伴、情感互動應用，早已透過手機進入青少年的生活，但相關的年齡分級、心理風險評估與家長告知機制，卻仍付之闕如。政府部門往往在科技創新上高喊「不能落後」，卻在風險治理上選擇「等出事再說」，這種思維本身，就是對下一代的不負責任。

科技不會自動向善，AI更不會因為「看起來很聰明」就具備倫理感。真正的問題不是要不要AI，而是誰來為AI的影響負責。當跨國企業可以透過和解淡化爭議，社會更需要透過制度補位，確保創新不以青少年的心理健康為代價。

總之，AI的邊界，不該由市場決定，而必須由公共價值劃定。否則，今天受傷的可能是某個家庭，明天付出代價的，恐怕是整個世代。 （相關報導： 曲博觀點：科技教育生活化，建立全民知識力，國高中教師一起努力！ ｜ 更多文章 ）

​＊作者為美國伊利諾芝加哥大學教授​