資訊爆炸的時代，日常生活中充斥許多訊息，令人目不暇給；生成式AI時代來臨，有心人大量生產各種似是而非的誤導消息，製造社會的混亂與對立，成為民主社會的隱憂。生成式AI與人類的戰爭已經開打，台灣首當其衝。
台灣人工智慧實驗室17日發表「2024台灣總統大選期間網路訊息操作分析報告」，這是生成式AI元年全球第一個透過大型語言模型與多項人工智慧模型所完成的選舉操作觀察報告，提出10大觀察，其中，AI生成技術廣泛用於資訊操弄，去年雞蛋事件，大量協同帳號掀起熱戰，闢謠也來不及。
網路普及便利與科技的發展，原本被視為有助於民主社會的多元發展，然而，生成式AI時代來臨，台灣人工智慧實驗室經過一年的調查發現，生成式科技的進步與社交媒體方便境外操作，反而侵害了數位人權，危害民主的發展。台灣人工智慧實驗室創辦人杜奕瑾表示，這場機器人與人類的戰爭，情勢相當嚴峻。
以AI辨識協同團體帳號 分析其行為模式與策略
依台灣人工智慧實驗室的調查，生成式AI用於掀起資訊戰，主要的問題不在於假消息，而是誤導消息（misleading information）。大型語言模型參戰後的主要戰場是文字曲解敘事，生成式AI瞬間大量生成曲解、不對稱的文字，透過大量不對稱的宣傳引發民眾喜惡的情緒反應。
究竟這些由AI生成的操作帳號如何辨識？台灣人工智慧實驗室建立Infodemic平台，可以即時全面監控社群平台上的資訊，透過AI技術來揭露資訊操弄與協同行動，並辨識同操作群的策略。
所謂協同團體帳號，意指非真正使用者的帳號。這些帳號例如過去的「五毛」，可能隨官方需要，發布特定內容；也可能是透過自動程式控制；或公關公司操作，有組織地擴散特定言論。
以去年的雞蛋事件為例，由協同團體掌控的操作帳號大量散布訊息誤導民眾囤蛋，這些協同帳號迅速生成大量的新戰場，使得官方闢謠無法發揮效果，於是農業部長陳吉仲請辭下台。
台灣社群媒體上萬協同帳號 選後一半帳號消失
這項調查觀察，過去一年來台灣有1萬4千多個協同帳號，參與4萬8千多個議題戰場。有趣的是，大選結束後，有一半不正常使用帳號就消失了。
這項調查發現，臉書的前兩大協同團體群，約626個操作帳號所產生的聲量就占臉書總資訊操弄聲量將近一半。
台灣人工智慧實驗室研判，這些協同團體帳號不是來自台灣本土，而是境外勢力，主要理由包括，這些協同帳號同時以中英文操作國內外論述，以中文論述攻擊台灣政治人物，以英文論述操作反美議題，散播疑美論等。這些協同團體帳號的目的是散播混亂。
這項調查發現，在台灣社群媒體遭生成式AI操控的帳號所散布的內容與中國官媒新聞內容的呼應度很高，兩者所關切的議題主軸一致。
值得注意的是，台灣社交媒體有大量帳號被盗用情形。杜奕瑾指出，台灣社交媒體有大量帳號遭盗用，曾經在一周內有上千人向警方報案，這是專業級駭客在社交媒體上盗取帳號，透過以中國網通設備的後門漏洞做植入VPN為跳板，至社群媒體發表文章。
這項調查發現，在中國社群平台TikTok上的資訊操弄有國家支持偏見，提及台灣、美國與日本時，絕大多數為負面論述，提及中國時，多數為正面；TikTok上的資訊操弄有明確政黨傾向，壓倒性地支持民眾黨候選人，且論述多為正面。
這項調查也發現，協同團體會佯裝身份創建論壇或朋友圈，例如地區社團、校友會、興趣社團等，拉近與民眾的距離，趁機影響使用者並控制議題。對此，杜奕瑾提醒，社交媒體群組中，要注意是否有些散布奇怪言論的成員，檢驗一下是否真有此人。
俄烏戰爭、以哈戰爭爆發前 中資平台出現不尋常短影音
對於俄烏戰爭、以色列與哈瑪斯的戰爭，台灣人工智慧實驗室先前曾在社群媒體平台偵測到不尋常的活動。主要手法是以類似的內容不斷創作看起來不一樣的短影音，讓民眾看到的只是某一方的說法，容易對某一方產生偏見。
在2022年2月底俄烏戰爭爆發之前，中資平台出現大量不尋常短影音，使用烏克蘭、屠殺之類的字眼，不久後俄羅斯侵略烏克蘭。巴勒斯坦激進組織哈瑪斯於去年10月7日突襲以色列之前，中資平台也出現大量不尋常短影音，散布單一面向、不平衡的訊息，不久後就爆發哈瑪斯在10月7日突襲以色列事件。杜奕瑾研判，從這些網路活動可以推測，背後是有特定預算支持的。
由生成式AI掀起的資訊戰，已在台灣開打，民眾必須提升數位素養。杜奕瑾提醒，當自己在社群媒體看到某些訊息感到非常生氣時，一定要冷靜，仔細追查消息的來源，避免被誤導。此外，台灣人工智慧實驗室開發出安全的資訊平台Miin，可以協助偵測所接收到的訊息背後是否有操作的可能，民眾可下載app使用。
生成式AI時代來臨，為各行各業帶來許多利基，大幅提高生產力且降低成本，可以成為人類的助手，但也同時衍生許多負作用。當生成式AI被用於社群媒體掀起資訊戰，以操作帳號製造混亂與對立，許多似是而非的訊息導致言論極端化，對民主社會將帶來危害。生成式AI未來若未加以適當規範，這場機器人與人類的戰爭後果，令人不敢樂觀。
