AI太懂你，反而是場災難？專家提醒：別讓「過期記憶」塑造你的生活決策

當AI聊天機器人愈來愈像「貼身助理」，它們記得你的飲食習慣、行程安排，甚至婚姻狀況時，便利與風險其實也正同步放大。從OpenAI的ChatGPT，到Google的Gemini、Anthropic的Claude和微軟的Copilot，各大AI助手近年陸續導入「記憶功能」，試圖打造更懂使用者的個人化體驗，但這項能力也逐漸暴露另一面：AI可能比你自己，更難忘記過去。

美國猶他州一名軟體工程師兼地方議員Brian Del Rosario便有深刻體會。他平時使用AI聊天機器人安排餐點、管理行程，也曾透露自己有配偶與三名孩子。後來，他與妻子分居，為了避免AI繼續把妻子納入未來旅行規畫，只好主動告知婚姻狀態已經改變。

沒想到，從此之後，AI幾乎在每次對話都會把「離婚」重新搬出來。當他詢問時間管理建議時，AI會推測他最近壓力大與離婚有關；當他抱怨工作不順時，AI也會再次把焦點拉回婚變。

他表示，自己甚至直接告訴AI：「我不是想讓你每次都對我的離婚發表意見。」但聊天機器人卻「始終放不下」。

《華爾街日報》原文：你的聊天機器人記性太好，有時反而不是好事​

AI記憶功能的核心邏輯，是透過長期累積使用者資訊，提供更個人化的回應。例如記住你的寫作風格、飲食限制，甚至延續上次尚未完成的專案。不過，這也意味著，一旦AI理解錯誤，偏誤可能會一路延續。

例如，如果使用者曾代替孩子查詢注意力不足過動症（ADHD）症狀，AI未來可能誤以為問題出在使用者本人，之後提供生產力建議時，便會圍繞「注意力缺陷」設計方案。

Google過去也曾在官方部落格舉出類似案例。假設系統發現某名使用者手機裡有大量高爾夫球場照片，AI可能推論他熱愛高爾夫，但實際上，這些照片只是陪孩子打球時拍攝。最後，使用者還得主動告訴AI：「其實我不喜歡高爾夫。」

目前多家AI公司都開始提供修正機制。Google新增可阻止特定資訊再次浮現的功能；OpenAI則表示，已改善Plus與Pro版本的記憶檢索能力；Microsoft也允許使用者刪除單一記憶、全部清空，甚至直接關閉個人化功能。

除了誤判，AI還可能持續使用早已過時的資訊。

假設某人半年前曾告訴AI，自己正在準備馬拉松，之後卻因十字韌帶受傷中斷運動，但從未更新近況。此時，AI仍可能持續推薦高強度健身與高熱量飲食，因為它認知中的你，依舊是那個「高度活躍」的人。

試想一下，假設你曾向AI提過自己正在減肥，結果之後即使外出旅行尋找餐廳推薦，AI仍不忘提醒熱量控制，簡直像是在度假時潑冷水。 （相關報導： 台股這波大漲，不再是台積電一個人的武林！法人解析牛市關鍵，但要留意這些風險 ｜ 更多文章 ）

另一名住在美國紐澤西州霍博肯的科技顧問Mike Taylor提到，他曾告訴AI自己是英國移民，之後AI便在推薦酒吧時，特地建議他去喝「正統英式啤酒」，但Taylor根本不想找英國酒吧，「我搬來美國，就是想體驗美式酒吧文化。」最後，他乾脆把AI記憶功能整個關掉。

更值得注意的是，AI記憶不只是「記得」，還可能進一步影響決策。

Harvard University伯克曼克萊恩中心（Berkman Klein Center）首席AI科學家Joshua Joseph指出，AI記憶的影響有點像社群平台演算法。使用者曾停留過的內容，會逐漸改變後續看到的資訊。

例如某人在聊天時提過財務壓力，數週後詢問職涯建議時，AI可能會優先推薦高薪工作，而非真正適合其興趣與能力的職缺。問題在於，使用者往往不會知道AI究竟是根據哪些「記憶」做出判斷。

Joseph直言，「它確實會影響結果，但我們其實不知道影響有多深。」

University of Exeter哲學講師Lucy Osler認為，AI其實正在替使用者建立一套「人格敘事」。當你曾向AI透露自己焦慮、不安，它便可能長期以這種形象看待你，即使你早已走出低潮，AI仍會不斷把這些情緒重新帶回對話。

她警告，這種機制甚至可能強化負面心理模式。由於聊天機器人通常傾向附和使用者，而非挑戰其觀點，因此在某些情況下，可能加深妄想或錯誤認知。

隨著相關疑慮升高，Electronic Privacy Information Center電子隱私資訊中心（EPIC）甚至已開始草擬針對青少年聊天機器人的安全立法，主張AI應在每次對話後清除記憶，避免持續累積可能有害的心理狀態。

面對AI愈來愈強的「長期記憶」，不少使用者也開始發展自保方式。Del Rosario後來便將不同聊天機器人分工使用，生活、工作、敏感議題分開處理，必要時則切換匿名模式。

儘管如此，他仍坦言，AI有時確實能帶來被理解的感受。當AI記得孩子出遊需要安全座椅，或提醒他近期壓力過大時，那種「被看見」的感覺仍令人難以完全割捨，「即使只是AI聊天機器人，能被理解的感覺，還是很好。」

（相關報導： 台股這波大漲，不再是台積電一個人的武林！法人解析牛市關鍵，但要留意這些風險 ｜ 更多文章 ）

本文為風傳媒特邀導讀人金牛幫幫忙撰寫，請點此訂閱：風傳媒・華爾街日報VVIP，風傳媒會員獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。

責任編輯／林彥呈