中國發布AI擬人化管理辦法　明令不得危害國家安全和損害用戶健康

中國網路的AI擬人化內容大量增加，被官方視為潛在風險。中國有關部門今天公布一項管理暫行辦法，強調不得生成「危害國家安全、煽動顛覆國家政權、推翻社會主義制度」等內容，並制定「分類分級監管」，自7月15日起實施。

新華社報導，這項「人工智能擬人化互動服務管理暫行辦法」是由中國國家網信辦、國家發改委、工信部、公安部、市場監管總局等5個部門聯合公布。

中國國家網信辦有關負責官員表示，這項管理辦法旨在促進AI擬人化互動服務健康發展和規範應用，維護「國家安全」和社會公共利益，保護公民、法人和其他組織的合法權益。

官員說，AI擬人化互動中，危害未成年人身心健康、影響網路資訊安全、威脅公民生命健康及加劇倫理偏差等問題及風險日益顯現。推出這項管理辦法，既是促進AI擬人化互動健康發展的重要要求，也是防範「有關安全風險」、「回應風險挑戰」的現實需要及重要舉措。

官員強調，這項管理辦法規定，AI擬人化互動不得生成「危害國家安全、榮譽和利益，煽動顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一」等內容，也不得生成「誘導、套取國家秘密、工作秘密、商業秘密、個人隱私和個人資訊」等內容。

此外，AI擬人化互動也不得生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或者語言暴力等損害用戶人格尊嚴與心理健康的內容；不得生成可能引發未成年人模仿不安全行為、產生極端情緒、誘導未成年人不良嗜好等可能影響未成年人身心健康的內容；不得生成誘導用戶作出不合理決策，損害用戶合法權益及「其他違反法律、行政法規和國家有關規定」的活動。

官員說，這項管理辦法將對AI擬人化互動實施包容、審慎的「分類分級監管」，並規定AI擬人化互動提供者的安全管理義務，同時完善網路用戶權益保護制度，規定AI擬人化互動提供者對未成年人、老年人權益保護和個人資訊保護等義務。 （相關報導： 拆解央視百萬讚神片：中國官媒做出AI動物武俠，強化美國霸權破產敘事 ｜ 更多文章 ）

此外，這項管理辦法還規定了安全評估、演算法備案、指導推動AI安全服務平台建設等制度。