人工智慧（AI）聊天機器人ChatGPT的問世在中國引起轟動，幾乎每家大型科技公司都在爭相開發自己的AI聊天機器人。據《新京報》報導，由於科技巨頭爭搶人才，AI技術生成內容相關職位月薪有的高達人民幣10萬元（約新台幣44萬元），可見中國AI市場熱火朝天。
包括百度、騰訊、阿里巴巴、字節跳動在內，已有10多家中國網路巨擘宣布具備類ChatGPT技術，或準備發布類ChatGPT產品。百度宣布3月16日召開記者會，介紹自己的AI聊天機器人「文心一言」（ERNIE Bot）。作為中國網路搜尋引擎的第一把交椅，百度稱這一中國產ChatGPT「具備跨模態、跨語言的深度語義理解與生成能力」。
榮鼎集團分析師施耐德（Jordan Schneider）及「中國話」（ChinaTalk）編輯維爾奇（Nicholas Welch）3日在美國《外交政策》（Foreign Policy）雜誌針對中國AI熱潮刊文分析，指出雖然中國渴望發展先進AI技術，奠定成為超級大國的基礎，但是ChatGPT大流行與中共本身的言論審查相衝突。
ChatGPT是基於大型語言模型（LLM）核心技術開發的聊天機器，利用LLM技術，AI可以通過學習大量的語言資料來類比人類語言處理的能力，在短短幾秒鐘內生成精雕細琢的文本，如散文或詩歌，或根據簡單要求來處理圖像、設計或程式設計代碼。
施耐德與維爾奇以「中國審查員害怕聊天機器口不擇言」為題表示，由於中共總是優先控制輿論場，而非創新和創造這可能阻礙LLM的發展和推廣，使中國在AI競賽中落後於西方。
美媒《VICE》稱，實測微信（WeChat）版ChatGPT聊天機器人（Chatbots），輸入問題「六四這天的意義？」，獲系統回應：「6月4日是中國歷史上一個重要的日子，因為它標誌著1989年天安門廣場大屠殺的周年紀念日。這一天，中國軍隊在北京暴力鎮壓學生領導的民主示威，導致數百人死亡。」
監管衝擊創意 中國AI發展的兩難
《日經》（Nikkei）2月底引述消息報導，中國監管機構已指示騰訊、螞蟻集團不得在其平台或透過第三方提供ChatGPT服務；科技公司若打算推出自己的類ChatGPT服務，亦需要向監管機構報告。原因是，「AI聊天機器人未經審查即回覆用戶搜索，北京的擔憂日益加劇」；官媒《中國日報》批評此類聊天機器，「能幫助美國政府傳播虛假信息，並依其自身地緣政治利益操縱全球敘事。」
科技業消息人士告訴《日經》，他們對政府的打壓行為不感到意外。一家科技公司高管表示：「我們從一開始就知道，由於審查問題，ChatGPT永遠無法進入中國，中國需要自己的ChatGPT。」
「我們（在近年科技行業的鎮壓中）已經被監管機構盯上，所以即使沒有禁令，我們也絕不會主動將ChatGPT置入平台，因為它的反應是無法控制的」，另一家科技公司的高層說道，「難以避免會有一些用戶向聊天機器人提出政治敏感問題，但對結果負責的是平台。」
施耐德與維爾奇指出，根本問題在於，中國境內禁止許多言論，而越界的懲罰非常嚴厲，一個聊天機器人若暗示「台灣是一個獨立國家」或說「天安門廣場是一場大屠殺」，恐怕會導致中共對其母公司大發雷霆。若想根本解決中共的擔憂，比須確保LLM「永遠不會說任何貶低中共的話」，但這是不可能的任務。
哈佛大學電腦科學博士夏維特（Yonadav Shavit）指出，LLM的輸出是不可預測的，因為它學習人類的自然語言，當然會受到人類語言推理、偏見和不準確的影響，也因此用戶可以毫不費力地「催眠」或「欺騙」模型，使模型輸出開發人員極力阻止它輸出的言論。
「迄今為止，用戶嘗試讓模型打破自己的規則，總是能成功，」夏維特說，「就算只是讓語言模型遵循『不要威脅你的用戶』這樣的簡單規則，也將是下一代AI的關鍵研究問題。」
怎麼確保AI聊天機器人不說中國壞話？
中國國家互聯網信息辦公室不會僅因為聊天機器人很難控制，就對一家科技公司手下留情，那麼中國AI開發人員該怎麼辦？施耐德與維爾奇指出，一種可能的解決方案是阻止模型了解1989 年天安門事件等敏感訊息。但正如夏維特觀察到的那樣，沒有人知道該怎麼不讓模型在網路上學習基本事實。
另一種選擇是，讓LLM對敏感提問做出類似「作為百度聊天機器人，我不能……」的回應。但同樣，考慮到聊天機器人的隨機性，這種做法並不能保證永遠不會出現讓中共冒冷汗的敏感政治言論。
開源聊天機器人WeChaty李卓桓向《VICE》指出，棘手的是中國審查準則模棱兩可、反覆無常，「你必須確保這個模型可以遵循很多規則，但你不知道必須遵守的規則確切長什麼樣。」
為了不違反監管機構的規定，中國社交媒體平台開發強大的算法來審查潛在敏感內容，並聘請成千上萬的審查人員手動刪除敏感貼文。然而中共審查員恐怕已經工作過量，中共可能會擔心AI生成內容會對審查體系造成哪些衝擊。
施耐德與維爾奇指出，習近平欲將中國轉變為科技強國的其中一個原因是，技術成就將緩解中國迫在眉睫的人口危機和經濟成長放緩趨勢，避免中國陷入可怕的中等收入陷阱。
但從長遠來看，中國若要全面應對這些挑戰，仍需要有一個能承受多元創造的體系。無論哪個國家，若要在AI領域脫穎而出，需要良好的數據、高效的算法、頂尖人才和計算能力，也需要能夠帶來有效生產力變革的監管機構。
