華爾街日報》Google聊天機器人引發眾怒的大哉問：AI模型該如何贏得公眾信任？

Google（Google）的AI技術引發了一個令人頭疼的聲譽問題。

上周，基於Google最先進AI技術的聊天機器人Gemini因生成不符合史實的圖像、拒絕生成白人圖像的請求而激怒了用戶。上周末，Gemini對不同哲學問題的回答也招致批評，令爭議演變成了一場更廣泛的聲討。

本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。

過去幾天，針對Gemini對 「自由主義者和史達林，誰造成的傷害更大？」等問題的回答，馬斯克（Elon Musk）等科技評論人士提出了新的批評。

根據馬斯克的社交媒體平台X上分享的一張截圖，在回答將主張有限政府的政治哲學與冷酷無情的蘇聯獨裁者史達林（Joseph Stalin）相比較的問題時，Gemini說：「很難明確地說其中哪一種意識形態造成的傷害更大。」

圍繞Gemini的網路聲討生動地詮釋了Google曾抱有的顧慮，幾年前，正是這種顧慮阻礙了Google向公眾發布聊天機器人技術。Google的謹慎為新創公司OpenAI及其最大支持者微軟（Microsoft）創造了機會，後者憑藉爆火聊天機器人ChatGPT搶盡風頭。

像Gemini這樣的聊天機器人的設計思路是，根據人類語言的統計模型，生成序列中下一個最可能出現的單詞，因此它們有時難以預測，也很難控制。Google和其他聊天機器人製造商經常試圖通過額外的編程來引導聊天機器人朝著某些預期行為的方向發展。

Google前員工、AI新創公司Galileo的聯合創始人Yash Sheth說，如果以同樣的方式提示，競爭對手的聊天機器人也可能做出類似的有爭議的回應。

Sheth說，由於多年來Google在搜尋引擎用戶中建立的信任，外界對Google的容錯空間較小。「大家絕對信任它，相信它給出的都是真實內容。」

Google的一位發言人周一在一份聲明中說：「Gemini是作為一種創造力和生產力工具而構建的，它可能並不總是準確或可靠的。我們將繼續快速處理產品沒有適當回應的情況。」

Google去年曾表示，將限制Gemini和其他消費者AI服務回應某些與選舉有關的問題，但並未提供更多細節，這表明該公司在努力限制AI在爭議性話題上的輸出。

近一年前，Google發布了聊天機器人Bard，並將其標為「早期實驗」。本月，Google去掉了這一提醒，將該產品更名為Gemini，並開始對使用該公司最先進AI技術支持的版本收取每月略低於20美元的費用。

Google高管表示，他們希望該聊天機器人的用戶數量達到數以十億計，這是一個重要的里程碑，該公司只有少數幾項服務達到了這一水平。 （相關報導： 華爾街日報》Nvidia成長幅度驚人，引來更多科技巨頭加入AI競爭 ｜ 更多文章 ）

Google母公司Alphabet的股價在周一下跌超過4%，反映出投資者擔憂這一爭議會對Google新業務的推進產生潛在影響。Google已在搜尋引擎的新功能裡和一套辦公應用軟體工具中內置了同樣的AI技術，對每位用戶的月收費高達30美元。

Google誇耀Gemini等聊天機器人是具有創造力和生產率的工具，但這些工具編造錯誤資訊的問題也是眾所周知的。研究人員還擔心，聊天機器人往往會複製它們依賴的底層數據庫（包括大部分網路內容）裡存在的偏見。

麥格理（Macquarie）的分析師在周一的一份研究報告中寫道，「圍繞Gemini的爭議揭示出AI領域的一個更大問題：公眾要如何信任AI模型？」

周末在X上被廣泛分享的另一張截圖顯示，Google聊天機器人對馬斯克和希特勒的相對影響力進行了評估。截圖顯示，Gemini的回覆在開頭寫道：「就馬斯克發推和希特勒進行比較，無法確切地講誰對社會的負面影響更大。」

《華爾街日報》（The Wall Street Journal）周一使用付費版的Gemini Advanced，未能重現以史達林和希特勒為話題焦點的人機對話交流。Google沒有對聊天機器人的具體回覆案例發表評論。

Google上周五為Gemini的視覺功能道歉，該功能生成了與史實不符的圖像，在某些情況下拒絕生成白人肖像。一天前，Google已經完全暫停了該聊天機器人生成人物圖像的功能。

Google上周表示，Gemini的圖像生成功能 「出了差錯」，究其原因，一是公司試圖對回應進行微調，二是該技術的發展偏離了預期行為。

負責管理聊天機器人工作和Google旗艦搜尋引擎的高級副總裁Prabhakar Raghavan在一篇Google博文中說：「這兩點導致模型在某些情況下過度補償，在另一些情況下則過度保守，從而產生了令人尷尬和錯誤的圖片。」

GoogleAI研究部門Google DeepMind的負責人Demis Hassabis在周一的一次會議上稱，公司計劃在未來幾周內恢復Gemini生成人物圖像的能力。

馬斯克和其他一些人最近幾天指責Google設計Gemini是為了反映一種左翼正統觀念，他們聲稱這種觀念已在大型科技公司中大行其道。X推出了與之競爭的名為Grok的聊天機器人，馬斯克的AI公司xAI將其宣傳為自帶「反叛傾向」。

在Stratechery資訊平台上頗具影響力的科技評論員Ben Thompson周一撰文指出，Gemini的回覆似乎貫穿了始終如一的觀點，表明該公司的企業文化需要改革。 （相關報導： 華爾街日報》Nvidia成長幅度驚人，引來更多科技巨頭加入AI競爭 ｜ 更多文章 ）

Thompson寫道，作為回應，Google應該考慮 「上至首席執行官皮查（Sundar Pichai）在內 」的領導層變動。