微軟（Microsoft）的一名AI工程師表示，該公司的AI圖像工具生成的暴力和性圖像可能會對社會造成危害。
在周三寫給聯邦貿易委員會（FTC）和微軟董事會的信中，首席軟體工程經理Shane Jones談到了他對微軟「負責任AI策略」的擔憂。
本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
Jones擔心，該公司的Copilot Designer工具可能會被用來創建不安全的圖像，包括對性化、陰謀論和吸毒的描述。
Jones在給FTC的信中說：「Copilot Designer創建的其他各類有害內容包括：政治偏見、未成年人酗酒和吸毒、濫用企業商標和版權、陰謀論和宗教等等」，他在領英（LinkedIn）上發布了這封信。信中寫道：「我曾多次敦促微軟停止向公眾提供Copilot Designer，直到可以採取更好的保障措施。」
他說，微軟的環境、社會和公共政策委員會應該開展獨立調查，幫助微軟「以負責任的最高AI標準引領行業」。
Jones在一篇貼文中寫道：「我們需要全行業通力合作，並與政府和公民社會緊密合作，就AI的風險和益處開展公眾宣傳和教育。」
已經在微軟工作了六年的Jones說，他從去年12月開始就一直在測試AI圖像生成器，發現一些缺陷和安全漏洞可能會讓用戶生成有害的圖像，這些圖像可能對消費者具有冒犯性，或者包含不宜內容。
除了信件和領英的貼文外，Jones不予進一步置評。
微軟發言人說：「我們致力於按照公司政策解決員工的任何和所有關切，我們感謝該員工努力研究和測試我們的最新技術，以進一步提高其安全性。」
在上個月的一篇博客文章中，微軟總裁史密斯（Brad Smith）討論了該公司致力於讓用戶安全使用AI的承諾。史密斯說：「來自微軟和整個科技領域的這些新工具不斷推向市場，在這種情況下，我們必須採取新的措施，確保新技術不會被濫用。」
自2022年末OpenAI的ChatGPT推出後，AI領域出現爆炸式成長。數以十億美元計的資金湧入該行業，科技巨頭和億萬富翁們競相投入資金，試圖得到下一個AI搖錢樹。
微軟去年推出了Copilot Designer，採用了與OpenAI的ChatGPT相同的技術。該系統結合了OpenAI的DALL-E 3文本到圖像生成器，用戶在輸入一些文字組合或進行描述後會創建圖像。
該公司希望通過「Copilot for Microsoft 365」實現其數十年來最大的成功，這是一款AI升級產品，可插入Word、Outlook和Teams等軟體。
Jones的信披露之前，競爭對手Google在AI領域的動作陷入爭議。Google上個月暫停了在旗艦產品Gemini聊天機器人生成人物圖像的功能，原因是該工具處理種族和民族內容的做法在網上引起反噬。
Jones承認，其他有AI產品的公司也有自己的問題，並稱讚Alphabet首席執行官桑德爾・皮查伊（Sundar Pichai）在給員工的內部通知中直接提出了Gemini的問題。
微軟已向OpenAI投資數以十億美元計的資金。Jones說，他在去年12月發現了OpenAI的DALL-E 3模型的一個安全漏洞，他藉助該漏洞繞過了一些防止生成有害圖像的安全協議。
在發現DALL-E 3存在其他系統性問題後，他於12月在領英上給OpenAI董事會另外寫了一封信，敦促他們在這些問題得到解決之前暫停提供該軟體。
Jones說，他的經理讓他刪除12月份的信。OpenAI周三沒有立即回應置評請求。
「在過去的三個月裡，我曾多次敦促微軟停止將Copilot Designer提供給公眾使用，直到更好的保障措施到位，」他在寫給FTC主席Lina Khan的信中說。他敦促FTC與微軟和其他公司合作，提升AI的安全性，並加大AI風險公開披露的透明度。
