AI在中國人的日常生活中越來越常見，相關詐騙案件也隨之激增。
中國政府監管國內網路的嚴格程度在世界領先，如今在約束對AI生成的超現實內容的使用方面也已堪稱先鋒。
本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
最近幾周，中國多地警方在官方社交媒體帳號上提醒說，犯罪分子已利用AI軟體生成具有欺騙性的文本，冒充目標人物的朋友行騙。
今年4月，一名郭姓男子在中國聊天應用微信上收到一個冒名頂替者打來的視訊電話。這個騙子冒充郭先生的好友，在10分鐘內說服他將約合60萬美元的資金轉到了內蒙古的一個銀行帳戶。他照做後聯繫好友確認轉帳事宜，才意識到自己被騙了。
根據內蒙古警方在社交媒體上發布的資訊，郭先生對警方描述道，「當時是給我打了視訊的，我在視訊中也確認了面孔和聲音，所以才放鬆了戒備。」
郭先生隨即向福州當地警方報案，福州警方聯繫了內蒙古警方；該騙子在內蒙古開設了銀行帳戶。根據警方發在微信帳號上的貼文，警方成功止付攔截了大部分資金，並正在全力追繳其餘被轉走的資金。
就在同一個月，據安徽省的一個官方媒體《新安晚報》報導，警方逮捕了一夥詐騙犯，他們利用AI換臉和語音合成技術，騙取一名男子向所謂的朋友轉了一大筆錢。
全球監管機構在監管深偽技術上一直面臨著挑戰；所謂深偽（deepfake）是指把圖片、音檔或影片中的人替換成其他人。中國已迅速推出法規，並利用現有工具來追蹤AI詐騙者。
今年1月，中國互聯網監管機構中國國家互聯網資訊辦公室（Cyberspace Administration of China）開始執行新法規，禁止使用AI生成的圖像、音檔和文本傳播違法或被認為破壞經濟或國家安全的不良資訊或內容。對相關類別的寬泛定義使主管部門擁有很大自由度。
郭先生受騙之事在中國社會引起強烈反響。警方5月份公布此案之後，話題「#AI詐騙正在全國爆發#」衝上微博熱搜。後來該話題無法找到，意味著審查人員正試圖限制相關討論。對該話題進行搜尋得到的資訊是：根據相關法律法規和政策，搜尋結果未予顯示。
字節跳動（Bytedance）旗下抖音（TikTok的中文版）在5月提出了關於AI生成內容的平台規範和行業倡議，呼籲同行禁止利用AI軟體生成欺騙性內容和謠言。
最近幾周，中國政府部門打擊整治了AI聊天機器人生成的虛假資訊，有些虛假資訊的內容似乎是以之前一些在社交媒體上引發軒然大波的事件為模型。
上個月，甘肅省有關部門拘留了一名男子，他據稱利用在網上收集的新聞片段，在ChatGPT上生成了一篇有關火車撞人事故的虛假文章。據警方稱，該男子在一個自媒體平台上發表了這篇文章；用戶可以分享該自媒體平台基於流量的廣告收入。警方說，這篇文章的瀏覽量達15,000次。 （相關報導： 華爾街日報》美中接觸如何改變我的人生 — 一位記者的自述 ｜ 更多文章 ）
2011年中國東部發生了兩列火車相撞事件，政府對那起事件的處理曾引發民眾廣泛不滿。
