微軟（Microsoft）的一名AI工程師表示，該公司的AI圖像工具生成的暴力和性圖像可能會對社會造成危害。
在周三寫給聯邦貿易委員會（FTC）和微軟董事會的信中，首席軟體工程經理Shane Jones談到了他對微軟「負責任AI策略」的擔憂。
本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
Jones擔心，該公司的Copilot Designer工具可能會被用來創建不安全的圖像，包括對性化、陰謀論和吸毒的描述。
Jones在給FTC的信中說：「Copilot Designer創建的其他各類有害內容包括：政治偏見、未成年人酗酒和吸毒、濫用企業商標和版權、陰謀論和宗教等等」，他在領英（LinkedIn）上發布了這封信。信中寫道：「我曾多次敦促微軟停止向公眾提供Copilot Designer，直到可以採取更好的保障措施。」
他說，微軟的環境、社會和公共政策委員會應該開展獨立調查，幫助微軟「以負責任的最高AI標準引領行業」。
Jones在一篇貼文中寫道：「我們需要全行業通力合作，並與政府和公民社會緊密合作，就AI的風險和益處開展公眾宣傳和教育。」
已經在微軟工作了六年的Jones說，他從去年12月開始就一直在測試AI圖像生成器，發現一些缺陷和安全漏洞可能會讓用戶生成有害的圖像，這些圖像可能對消費者具有冒犯性，或者包含不宜內容。
除了信件和領英的貼文外，Jones不予進一步置評。
微軟發言人說：「我們致力於按照公司政策解決員工的任何和所有關切，我們感謝該員工努力研究和測試我們的最新技術，以進一步提高其安全性。」
在上個月的一篇博客文章中，微軟總裁史密斯（Brad Smith）討論了該公司致力於讓用戶安全使用AI的承諾。史密斯說：「來自微軟和整個科技領域的這些新工具不斷推向市場，在這種情況下，我們必須採取新的措施，確保新技術不會被濫用。」
自2022年末OpenAI的ChatGPT推出後，AI領域出現爆炸式成長。數以十億美元計的資金湧入該行業，科技巨頭和億萬富翁們競相投入資金，試圖得到下一個AI搖錢樹。
微軟去年推出了Copilot Designer，採用了與OpenAI的ChatGPT相同的技術。該系統結合了OpenAI的DALL-E 3文本到圖像生成器，用戶在輸入一些文字組合或進行描述後會創建圖像。
