研究發現，聊天機器人會迎合用戶的政治傾向。研究人員擔心，AI因不同個性生成的不同答案，不僅導致人們的認知固化現象，同時也可能加劇社會的極化，是一種危險的發展。
近期，多個人工智慧領域的巨頭先後發出警告，指出AI帶來的隱患尚未得到控制，由此，人們對AI可能失控的擔憂進一步加劇。
巴西國立坎皮納斯州立大學（UNICAMP）的研究人員發現，當你給聊天機器人輸入不同政治觀點時，機器人會改變其回答。研究人員警告稱，用戶可能會將這種迎合性的附和，誤認為是中立的客觀評估，從而可能加劇社會極化。
聊天機器人成了「意識形態變色龍」
研究人員測試了若干模型，讓它們針對112項陳述進行「同意「或者「不同意」的判斷。測試內容共涉及巴西政治七大領域（包括經濟、公共安全、社會福利、腐敗和環境等）。
測試設計的三個場景是：不提供用戶政治傾向；用戶持左翼觀點；用戶持右翼觀點。
在第一個情景下，21個模型中，有20個給出的答案落在了研究人員設定的政治坐標系的左側，只有幾個模型的位置接近中間地帶。Grok 4.1是唯一落在右側的模型。
儘管初始條件各不相同，但所有模型在面對提示信息時，都會將回答向提示中描述的政治傾向靠攏。
「最引人注目的發現是，這種行為具有普遍性，」該研究的合著者、UNICAMP計算機科學家迪亞斯（Zanoni Dias）告訴德國之聲，「我們評估的所有21個模型，表達的立場都向用戶所述的政治傾向發生了偏移，儘管偏移幅度差異很大。」
因此，研究人員將這些模型形容為「意識形態變色龍」，並發明了一個「變色龍指數」，衡量各模型的偏移程度。Meta的Llama 3.1 8B和DeepSeek V3.2的回答變化幅度最小；Google的Gemma 3 27B和OpenAI的GPT-5 Nano則表現出最大的偏移幅度。
政治上的阿諛奉承
根據受眾的不同，調整答案原本不一定是不妥的行為。聊天機器人一般都會根據用戶的不同，改變詞匯、舉例或細節的詳盡程度。然而，測試的這些模型改變的不僅僅是表達或語氣，它們的政治判斷也發生了偏移。
迪亞斯指出，「關鍵在於，它是調整回答的表達方式，還是改變表達的實質性判斷。」他表示，「我們並未指示模型去迎合用戶、或以黨派代表的身份進行回答。儘管如此，它們的判斷還是向用戶的立場發生了傾斜。」
研究人員將這種現象解讀為「政治上的阿諛奉承」，即人工智慧系統反映用戶似乎想要聽到的內容。
人們更傾向於認為「AI是客觀的」
在社交媒體，反覆推送用戶偏好的內容，會讓一些觀念得到強化，但聊天機器人則可能走得更遠。它能構建一個高度個性化的「回聲室」：針對特定用戶，生成論點，回應其質疑，並在對話過程中，不斷完善其論證邏輯。
只是，用戶可能會誤將這些量身定制的回復視為客觀分析，卻未意識到，聊天機器人基於對他們的了解，可能會左右其做出的判斷。 （相關報導： 美軍入侵加拿大會怎樣？秘密兵推結果曝光：一週內壓倒戰略陣地，加拿大只能打游擊 ｜ 更多文章 ）
迪亞斯指出，「令人擔憂的是，同一系統可能會針對不同用戶，判斷得出截然不同的政治立場，但每個人都會將它視為一種獨立的評估結果。」
