美國時間10月31日晚間，科技巨頭Google採取迅速行動，將其Gemma人工智慧模型從面向大眾的AI Studio平台中移除。此舉是對田納西州共和黨籍參議員瑪莎．布萊克本（Marsha Blackburn）提出嚴正指控的回應。布萊克本參議員聲稱，Google的Gemma模型散布關於她的捏造性行為不當指控，構成誹謗。
參議員布萊克本於10月30日致函Google執行長桑達爾．皮查伊（Sundar Pichai），信中詳述Gemma模型虛構了她在1987年競選期間曾被控強姦，並引用了「不存在」的報導作為佐證。布萊克本措辭強硬，稱模型的回答「具誹謗性」且「顯然不實」，認為Google透過其AI系統發布了「文字誹謗」。
Google澄清Gemma定位，終止非開發者存取
她強調，此事件突顯科技公司「不能以自動化為藉口」來逃避其產品散布對真實人物造成傷害的謊言的責任。布萊克本同時提及保守派評論員羅比．史塔巴克（RobbyStarbuck）也面臨GoogleAI工具的類似不實陳述，並將此視為一種對保守派有偏見的模式。
在收到布萊克本的信件後，Google於10月31日晚間在X平台（前Twitter）上宣布移除Gemma在AI Studio平台上的存取權限。AI Studio是一個允許使用者在瀏覽器中直接測試與部署模型的網頁介面，常被描述為Google的實驗沙盒環境。
Google在聲明中解釋，此舉目的是澄清Gemma的定位，該模型從未被設計為消費性用途：
「我們看到有非開發者嘗試在AI Studio使用Gemma，並詢問事實性問題。」Google寫道，「我們從未打算讓它成為消費性工具或模型，或以這種方式使用。為避免混淆，AI Studio不再提供Gemma存取。它仍可透過API供開發者使用。」
透過從AI Studio移除Gemma，Google實際上切斷了導致對布萊克本不實指控的直接、消費性質的存取方式。相較之下，API（應用程式介面）存取是供專業軟體開發者透過程式碼將模型整合到應用程式中，並需經過更嚴格的驗證與遵守Google開發者政策。
國會議員挑戰AI「幻覺」與企業責任
布萊克本的投訴是現任國會議員指控AI系統誹謗的最受矚目案例之一。她於11月2日在X平台上寫道：「在我要求公司下架因捏造犯罪指控抹黑保守派後，Google據報已從其AI Studio移除Gemma。」她並要求Google對美國人民有所交代，並稱將「迫不及待等待他們對我信件的回應。」
參議員在信中亦提及10月29日參議院商務委員會聽證會，當時Google政府事務與公共政策副總裁馬克漢．埃里克森（Markham Erickson）表示，「幻覺」是大型語言模型（LLM）的已知問題，Google正「努力減輕」。
布萊克本對此回應表達了不滿，她寫道：「無論是故意還是因意識形態偏誤的訓練資料所致，結果都一樣：Google的AI模型透過散布關於保守派的謊言，塑造危險的政治敘事，並侵蝕公眾信任。」她總結道：「聽證會上埃里克森先生說，『大型語言模型會產生幻覺。』我的回應依然一樣：關掉它，直到你能控制為止。美國民眾值得擁有精確、公平且透明的AI系統……」
Gemma是Google今年稍早發布的開放權重模型系列之一，目標是與Meta的Llama等開發者導向AI競爭。Google限制Gemma公開存取的決定，反映了大型科技公司面臨的日益增加的壓力，必須防止其AI系統對個人做出錯誤的事實性主張。透過劃清實驗性開發者工具與消費性產品的界線，Google試圖應對這類挑戰。
責任編輯：許詠翔
更多風傳媒獨家新聞：
