AI在中國人的日常生活中越來越常見，相關詐騙案件也隨之激增。
中國政府監管國內網路的嚴格程度在世界領先，如今在約束對AI生成的超現實內容的使用方面也已堪稱先鋒。
本文為風傳媒與華爾街日報正式合作授權轉載。加入VVIP會員請點此訂閱：風傳媒・華爾街日報VVIP，獨享全球最低優惠價，暢讀中英日文全版本之華爾街日報，洞悉國際政經最前沿。
最近幾周，中國多地警方在官方社交媒體帳號上提醒說，犯罪分子已利用AI軟體生成具有欺騙性的文本，冒充目標人物的朋友行騙。
今年4月，一名郭姓男子在中國聊天應用微信上收到一個冒名頂替者打來的視訊電話。這個騙子冒充郭先生的好友，在10分鐘內說服他將約合60萬美元的資金轉到了內蒙古的一個銀行帳戶。他照做後聯繫好友確認轉帳事宜，才意識到自己被騙了。
根據內蒙古警方在社交媒體上發布的資訊，郭先生對警方描述道，「當時是給我打了視訊的，我在視訊中也確認了面孔和聲音，所以才放鬆了戒備。」
郭先生隨即向福州當地警方報案，福州警方聯繫了內蒙古警方；該騙子在內蒙古開設了銀行帳戶。根據警方發在微信帳號上的貼文，警方成功止付攔截了大部分資金，並正在全力追繳其餘被轉走的資金。
就在同一個月，據安徽省的一個官方媒體《新安晚報》報導，警方逮捕了一夥詐騙犯，他們利用AI換臉和語音合成技術，騙取一名男子向所謂的朋友轉了一大筆錢。
全球監管機構在監管深偽技術上一直面臨著挑戰；所謂深偽（deepfake）是指把圖片、音檔或影片中的人替換成其他人。中國已迅速推出法規，並利用現有工具來追蹤AI詐騙者。
今年1月，中國互聯網監管機構中國國家互聯網資訊辦公室（Cyberspace Administration of China）開始執行新法規，禁止使用AI生成的圖像、音檔和文本傳播違法或被認為破壞經濟或國家安全的不良資訊或內容。對相關類別的寬泛定義使主管部門擁有很大自由度。
郭先生受騙之事在中國社會引起強烈反響。警方5月份公布此案之後，話題「#AI詐騙正在全國爆發#」衝上微博熱搜。後來該話題無法找到，意味著審查人員正試圖限制相關討論。對該話題進行搜尋得到的資訊是：根據相關法律法規和政策，搜尋結果未予顯示。
字節跳動（Bytedance）旗下抖音（TikTok的中文版）在5月提出了關於AI生成內容的平台規範和行業倡議，呼籲同行禁止利用AI軟體生成欺騙性內容和謠言。
最近幾周，中國政府部門打擊整治了AI聊天機器人生成的虛假資訊，有些虛假資訊的內容似乎是以之前一些在社交媒體上引發軒然大波的事件為模型。
上個月，甘肅省有關部門拘留了一名男子，他據稱利用在網上收集的新聞片段，在ChatGPT上生成了一篇有關火車撞人事故的虛假文章。據警方稱，該男子在一個自媒體平台上發表了這篇文章；用戶可以分享該自媒體平台基於流量的廣告收入。警方說，這篇文章的瀏覽量達15,000次。
2011年中國東部發生了兩列火車相撞事件，政府對那起事件的處理曾引發民眾廣泛不滿。
今年5月，河南省有關部門指稱一名男子利用ChatGPT生成了一家餐館發生鬥毆事件的虛假不實資訊以吸引流量。文中的一些重要資訊誤導人們稱，一名女子在這場毆打事件中被一名男子用磚頭砸中頭部後死亡。
這些消息讓人聯想到去年在網上廣泛傳播的一些影片，這些影片顯示一群男子在一家餐廳毆打幾名女子，這在網上引發了關於針對女性的性別暴力的熱議。
中國不在OpenAI的聊天機器人ChatGPT提供服務的國家之列，但很多人通過VPN設法繞過了這一障礙。
ChatGPT的流行在中國激起了一陣熱潮，因兩年的監管整頓和經濟形勢不穩定而受到衝擊的中國科技企業將這項技術視為成長的新動力。
搜尋引擎公司百度（Baidu, BIDU）、電商巨頭阿里巴巴集團（Alibaba Group Holding Limited, BABA, 9988.HK）和AI公司商湯集團（SenseTime Group Inc., 0020.HK）已推出自家的大型語言模型；大型語言模型是ChatGPT背後的基礎技術。其他科技公司也正在探索如何將AI技術融入各自的產品。
世界各國政府都擔心，類似ChatGPT的服務可能會傳播歧視性或有害的資訊。其他國家的監管機構開始研究對新一波生成式AI技術實施潛在檢查之際，中國已準備好一套監管框架來審查聊天機器人。
中國國家互聯網資訊辦公室4月份頒布了新規，要求公司在推出此類AI聊天機器人之前要先經過安全審查。此外，根據新的法規草案，公司有責任確保其AI服務生成的內容是真實的，並且需體現社會主義價值觀。
