明年，許多國家將舉行大選，這讓許多人感到擔憂。過去，虛假訊息一向由人類製造，近年人工智慧的迅速發展讓人們擔心虛假訊息的宣傳可能進一步加劇。英國期刊《經濟學人》指出，雖然人工智慧讓虛假訊息將變得更容易產生，但它不如人們想得重要。
美國人工智慧研究實驗室OpenAI去年推出聊天機器人ChatGPT後，掀起全球討論熱潮，更被視為是人工智慧的重大突破。隨著生成式人工智慧（generative AI）進步，其模型可輸出複雜的文章，並根據文本提示創造逼真的圖像，讓合成的宣傳變得可能。人們擔心明年美國、英國、印度、印尼、墨西哥、台灣等多個國家舉行選舉前，虛假訊息宣傳活動可能會加劇。
《經濟學人》（The Economist）指出，ChatGPT等生成式人工智慧工具出現前，虛假訊息已經成為民主國家面臨的問題。2021年1月6日，時任美國總統川普（Donald Trump）、共和黨（Republican Party）精英、保守派媒體使用傳統手段傳播「美國總統選舉被操縱」的想法，導致支持川普的暴力示威者闖入國會山莊。印度執政黨「印度人民黨」（BJP）活動人士透過即時通訊應用程式「WhatsApp」散播謠言，中國共產黨的宣傳人員透過看似合法的新聞機構向台灣傳播論據，而這一切都在不使用生成式人工智慧工具的情況下完成。
《經濟學人》指出，2024 年大型語言模型將導致的其中一個變化是虛假訊息的數量，如果假訊息的數量增為1000倍或10萬倍，它可能會說服人們做出不同的投票決定。第2個變化與品質有關，虛假聲音、照片、影片被揭穿前，超現實的「深度偽造」（deepfakes）可能影響選民。第3個變化是精準投放（microtargeting），有了人工智慧，選民可能會被量身打造的大規模宣傳淹沒，宣傳機器人網絡可能比現有的虛假訊息運作更難被發現。數十年來，美國選民對其他選民的信任一直下降，隨著人們開始懷疑一切，選民對其他選民的信任很可能受到影響。
《經濟學人》認為，雖然這讓人擔憂，但人們有理由相信人工智慧不會破壞人類2500年來的民主實驗。許多人認為別人比自己更容易受騙，但其實選民很難被說服，尤其是在他們希望誰擔任總統等政治議題。美國價值數十億美元的選舉產業利用人類說服選民，這只能讓他們的行為產生微小的改變。
生成可信的虛假圖像及文本的工具已經存在數十年，而新的圖像生成演算法讓人印象深刻，但如果沒有調整及人為判斷，它們仍然容易生成「人類每隻手有六根手指」這類的照片，這讓量身打造的深度偽造暫時遙不可及。即使這些人工智慧增強策略被證明有效，它們很快就會被許多相關方採用，這些影響力操作的累積效應將讓社群網絡變得更不和諧及無法使用，很難證明不信任會轉化為一方比另一方更具有系統優勢。 （相關報導： 美中科技戰升級！拜登簽署行政命令，禁止投資中國的半導體、量子計算和人工智慧企業 ｜ 更多文章 ）
錯誤訊息傳播的社群媒體平台及人工智慧公司表示正關注風險，美國人工智慧研究實驗室OpenAI表示，它將監控使用情況，嘗試檢測政治影響操作。大型科技平台因為在2016年美國總統大選傳播虛假訊息、2020年美國總統大選刪除過多訊息而受到批評，但現在它們比以前擅長辨識可疑帳戶。全球搜尋引擎龍頭谷歌（Google）母公司「字母公司」（Alphabet Inc.）、全球社群媒體龍頭臉書（Facebook）母公司Meta禁止在政治廣告使用受操縱的媒體，並表示將迅速回應「深度偽造」的問題，其他公司正嘗試制定技術標準來確定真實圖像及影片的來源。
