資訊爆炸的時代，日常生活中充斥許多訊息，令人目不暇給；生成式AI時代來臨，有心人大量生產各種似是而非的誤導消息，製造社會的混亂與對立，成為民主社會的隱憂。生成式AI與人類的戰爭已經開打，台灣首當其衝。
台灣人工智慧實驗室17日發表「2024台灣總統大選期間網路訊息操作分析報告」，這是生成式AI元年全球第一個透過大型語言模型與多項人工智慧模型所完成的選舉操作觀察報告，提出10大觀察，其中，AI生成技術廣泛用於資訊操弄，去年雞蛋事件，大量協同帳號掀起熱戰，闢謠也來不及。
網路普及便利與科技的發展，原本被視為有助於民主社會的多元發展，然而，生成式AI時代來臨，台灣人工智慧實驗室經過一年的調查發現，生成式科技的進步與社交媒體方便境外操作，反而侵害了數位人權，危害民主的發展。台灣人工智慧實驗室創辦人杜奕瑾表示，這場機器人與人類的戰爭，情勢相當嚴峻。
以AI辨識協同團體帳號 分析其行為模式與策略
依台灣人工智慧實驗室的調查，生成式AI用於掀起資訊戰，主要的問題不在於假消息，而是誤導消息（misleading information）。大型語言模型參戰後的主要戰場是文字曲解敘事，生成式AI瞬間大量生成曲解、不對稱的文字，透過大量不對稱的宣傳引發民眾喜惡的情緒反應。
究竟這些由AI生成的操作帳號如何辨識？台灣人工智慧實驗室建立Infodemic平台，可以即時全面監控社群平台上的資訊，透過AI技術來揭露資訊操弄與協同行動，並辨識同操作群的策略。
所謂協同團體帳號，意指非真正使用者的帳號。這些帳號例如過去的「五毛」，可能隨官方需要，發布特定內容；也可能是透過自動程式控制；或公關公司操作，有組織地擴散特定言論。
以去年的雞蛋事件為例，由協同團體掌控的操作帳號大量散布訊息誤導民眾囤蛋，這些協同帳號迅速生成大量的新戰場，使得官方闢謠無法發揮效果，於是農業部長陳吉仲請辭下台。
台灣社群媒體上萬協同帳號 選後一半帳號消失
這項調查觀察，過去一年來台灣有1萬4千多個協同帳號，參與4萬8千多個議題戰場。有趣的是，大選結束後，有一半不正常使用帳號就消失了。
這項調查發現，臉書的前兩大協同團體群，約626個操作帳號所產生的聲量就占臉書總資訊操弄聲量將近一半。
台灣人工智慧實驗室研判，這些協同團體帳號不是來自台灣本土，而是境外勢力，主要理由包括，這些協同帳號同時以中英文操作國內外論述，以中文論述攻擊台灣政治人物，以英文論述操作反美議題，散播疑美論等。這些協同團體帳號的目的是散播混亂。
這項調查發現，在台灣社群媒體遭生成式AI操控的帳號所散布的內容與中國官媒新聞內容的呼應度很高，兩者所關切的議題主軸一致。 （相關報導： 謝錦芳專欄：台灣下一步，學習跨黨派合作妥協的藝術 ｜ 更多文章 ）
值得注意的是，台灣社交媒體有大量帳號被盗用情形。杜奕瑾指出，台灣社交媒體有大量帳號遭盗用，曾經在一周內有上千人向警方報案，這是專業級駭客在社交媒體上盗取帳號，透過以中國網通設備的後門漏洞做植入VPN為跳板，至社群媒體發表文章。
