華爾街日報》把照片上傳到ChatGPT真的安全嗎？一張花園照就可能洩露住址，小心被當成AI訓練素材

人們越來越多地使用AI聊天機器人，不只是進行文本查詢，也會進行圖像相關查詢——上傳照片來識別皮疹、辨認後院的植物或編輯領英（LinkedIn）頭像照片。

但隱私專家表示，隨著與人工智慧（AI）的圖像互動變得越來越普遍，用戶分享的資訊可能比他們意識到的要多。

本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。

AI公司通常將圖片上傳描述為臨時輸入。然而，在互動結束後，這些圖片的去向可就難說了。由於技術漏洞、AI公司政策的不一致和不明確，以及未來的未知用途，向AI上傳圖片存在風險。

數位權利倡導組織電子前沿基金會（Electronic Frontier Foundation）的高級技術專家雅各布・霍夫曼-安德魯斯（Jacob Hoffman-Andrews）說：「重要的是，別上傳那些你希望確保只有自己能看到的照片。」但現實是，太多的AI用戶——就像網路用戶一樣——想當然地認為存在一定程度的隱私保護，而這種保護實際上可能並不存在。

圖片包含的資訊比你看到的要多

霍夫曼-安德魯斯說，用戶應該把AI聊天機器人看作另一個存儲圖片的地方，類似於iCloud或Google的Google Photos，但有額外的風險。這些風險中最基本的是安全問題。像其他地方一樣，AI聊天機器人也可能被駭客攻擊，用戶賬戶也可能被攻破。

但問題不止於此。AI公司本身可以獲取用戶數據和圖片。為評估AI模型的表現，AI公司會定期評估一部分用戶互動樣本，包括那些有圖片上傳的互動。這被稱為「人機協同」（human-in-the-loop）監督。這意味著，即使用戶刪除了與聊天機器人的對話，該聊天內容及其所有視覺和其他元素，也可能已經被標記出來供人工評估。

假如你上傳的是一張花園植物的照片，或者一張你手臂上長了皮疹的特寫，這似乎無傷大雅。問題在於，圖片所揭示的資訊遠比用戶想要分享的要多。圖片中包含嵌入的元數據，其中包括照片拍攝的地點和時間等細節。

與此同時，包含環境背景的高分辨率照片可能會捕捉到碰巧放在書桌或檯面上的文件或信用卡的清晰影像。照片中也可能包含有關住宅和工作場所的可供識別的細節，或照片中其他人的生物識別資訊。

史丹佛大學（Stanford University）以人為本人工智慧研究所（Institute for Human-Centered Artificial Intelligence）的隱私和數據政策研究員詹妮弗・金（Jennifer King）說，其結果是，如果AI公司不從上傳的圖片中剝離元數據，它們最終會得到大量關於用戶日常活動、位置和其他方面的數據，而公司可能會利用這些資訊來改進其AI模型。 （相關報導： 華爾街日報》中國正利用民營部門推進軍用AI發展 ｜ 更多文章 ）

這意味著，在某些情況下，聊天機器人用戶在不知不覺中為AI公司提供了免費的訓練數據——如果他們有的選，可能不會同意這樣做。

相關政策怎麼說？

所有這些元數據和其他識別資訊都存在，與此同時，各公司關於如何處理圖片本身的政策也不一致。

金對AI開發者的研究發現了彼此各不相同的做法。微軟（Microsoft）不會用放入其AI助手Copilot的圖片進行訓練。該研究稱，Claude AI模型的製造商Anthropic也不會。ChatGPT的創造者OpenAI則會對所有數據進行訓練，除非用戶選擇不允許使用。微軟和OpenAI的發言人證實了這些做法。Anthropic的一位發言人說，該公司已更新政策，要求用戶決定他們的數據是否可用於訓練和改進系統。

金的研究還發現，美國的Meta AI用戶沒有不允許此類使用的選項。Meta Platforms的一位發言人未證實金的研究發現，而是讓記者去查看Facebook上的隱私中心，以了解Meta如何將資訊用於生成式AI模型和功能的政策。

雖然一張度假照片或食譜快照可能會混在這些AI系統處理的海量數據中，但某些圖片被系統「記住」的風險更高，因此最終會以可識別的形式出現在聊天機器人的結果中。電子前沿基金會的霍夫曼-安德魯斯指出了兩類圖片：一類是在網上出現千萬次的圖片，比如著名的「阿富汗女孩」照片，許多早期的AI系統可以完美地複製這張照片；另一類是具有高度獨特性徵、使其成為統計學異常值的圖片。

霍夫曼-安德魯斯說，就典型的AI用戶而言，AI系統精確複製他們個人照片的可能性不大。但AI系統不需要完美複製就能造成隱私問題。它可能會生成一張足夠接近、可被識別的圖片——比如一張包含同樣獨特的胎記、可見的健康狀況或特徵組合的圖片，這些特徵可能使該複製品能被他人識別出來。

其他有被AI系統「記住」風險的圖片，是那些用於生成動漫角色、對面部進行年齡處理或創建專業頭像照的圖片。這是因為這些程式通常需要清晰、高質量的人臉圖片——一種包含生物識別數據的獨特圖片。

即使對有隱私意識的用戶而言，令人困惑的默認設置或語焉不詳的界面也可能導致圖片意外泄露。例如，當Meta在今年早些時候推出其AI聊天機器人應用程式時，用戶發現一些對話——包括上傳的照片和真實姓名——被發布到一個公共資訊流中，使用該應用程式的任何人都可以看到。Meta的一位發言人說，當時有一個多步驟流程，用戶可以隨時取消分享聊天。

意料之外的用途

研究AI對社會影響的AI Now Institute的聯席主任薩拉・邁爾斯・韋斯特（Sarah Myers West）說，更長期的風險在於，如今上傳的圖片最終可能以與初衷不符的方式被重複使用。

微軟、Anthropic、Meta和OpenAI均表示不允許第三方分發數據。

韋斯特說，雖然公司可能不會將數據出售給第三方，但它們通常會保留上傳的圖片。隨著AI能力和商業策略的演變，用戶無法預測這些圖片將如何被使用。 （相關報導： 華爾街日報》中國正利用民營部門推進軍用AI發展 ｜ 更多文章 ）

她說：「無論你上傳什麼，它的生命周期都將遠遠超出你使用該系統的那個瞬間。」

海量資訊去蕪存菁！全球政經局勢快速驟變，汲取新知，「質」比「量」更重要！
《風傳媒Ｘ華爾街日報》年訂方案
現在加入VVIP，即享實用好禮！☛ 立即訂閱