21歲的賓夕法尼亞大學學生洛伊克（Olga Loiek）一直在網路上尋找觀眾——但從來沒有想到會以現在這種方式獲得關注。
去年11月，來自烏克蘭的洛伊克在 YouTube 上開設了一個頻道。不久之後，她發現自己的形象被盜用，並由人工智慧技術變成了另外一個人出現在中國的社交媒體平台。
這個跟她身材長相完全一樣的人，自稱是精通中文的俄羅斯女孩，感謝中國對俄羅斯的支持，並通過出售俄羅斯糖果等產品賺點小錢。
更吊詭的是，這些虛假賬號在中國都擁有數十萬粉絲，遠遠超過了洛伊克本人。
洛伊克告訴路透社記者：「這就像是我的臉在說著普通話，背景是克里姆林宮和莫斯科，我在談論俄羅斯和中國有多麼偉大。這真是讓人毛骨悚然，因為我這輩子都不會說出這樣的話。」
在中國社交媒體上，越來越多貌似俄羅斯女性的形象，用流利的中文表達對中國的熱愛，並稱要通過銷售來自祖國俄羅斯的小商品來支持戰爭中的俄羅斯。洛伊克的遭遇就是其中一個例子。
然而，這些女性並不存在。專家說，她們是人工智慧通過盜用網上真實女性的形象生成的。通常這些女性並不知情。這些虛構的形象被用來向中國單身男性推銷產品。
以洛伊克形象創建的賬戶擁有數十萬粉絲，並銷售了數萬美元的產品，包括「俄羅斯糖果」。其中一些帖子包含免責聲明，稱其可能是使用人工智慧創建的。
「AI製作圖像在中國很普遍」
XMOV 是一家開發先進人工智慧技術的公司。該公司首席執行官吉姆·柴（Jim Chai）說，在中國，製作這種圖像的技術非常普遍，很多人都在使用。
他說：「例如，要製作我自己的二次元數位人，我只需要拍攝一段30分鐘的影片，然後再重新製作。當然，它看起來非常真實。如果你想改變語言，唯一需要調整的就是對口型。”
人工智慧是一個備受爭議的話題，洛伊克的故事揭示了隨著創建和傳播的強大工具在全球普及，人工智慧的潛在非法或不道德應用所帶來的風險。
近幾個月來，隨著 Chat GPT 等生成式人工智慧系統的普遍應用，人們對人工智慧助長錯誤信息、假新聞和盜版的擔憂也在加劇。
今年1月，中國發布了人工智慧行業標準化指南草案，提出到2026年將形成50多項國家和行業標準。
歐盟的《人工智慧法案》本月生效，該法案對高風險的人工智慧系統規定了嚴格的透明度義務，樹立了一個潛在的全球基準。
盡管如此，北京大學法學院副教授戴昕表示，監管者正在跌跌撞撞地追趕人工智能發展的步伐。
戴昕說：「我們只能預測，隨著越來越強大的信息創建工具的出現，假信息的出生和傳播基本上時時刻刻都會出現。」
他說：「我認為，這裡最關鍵的問題是數量太大了……不僅是在中國，在整個網路上都是如此。」
©2024年德國之聲版權聲明：本文所有內容受到著作權法保護，如無德國之聲特別授權，不得擅自使用。任何不當行為都將導致追償，並受到刑事追究。 （相關報導： 麥加高溫逾51度，真的熱死人！伊斯蘭教「盛事」成「憾事」，今年朝覲已1301人喪命 ｜ 更多文章 ）
責任編輯：李忠謙
