該測試參與者、北卡羅來納州選舉委員會（North Carolina State Board of Elections）執行董事貝爾（Karen Brinson Bell）表示：「如果選民從特定機器人得到回答，並認為那是正確答案，那麼他們將完全失去投票權，或者可能意味著他們的選票不會被計算在內。」
美國賓夕法尼亞州（Pennsylvania）費城（Philadelphia）共和黨市政官員布魯斯坦（Seth Bluestein）在人工智慧民主計畫發布的聲明中表示：「就提供選舉相關的重要且細緻入微的資訊而言，聊天機器人還沒準備好迎接更多使用者。」
防護措施
《彭博》指出，雖然虛假資訊多年來一直是選民及候選人面臨的挑戰，但生成式人工智慧（generative AI）工具的興起讓這個挑戰加劇，而且這些工具真的能創造讓人信服的虛假圖像、文字、音訊。該研究報告指出，在人工智慧模型可供選民安全使用前，還需要更多的防護措施。
大型科技公司及人工智慧新創公司正努力建立防護措施，確保選舉的公正。大多數參與這項研究的公司都承認開發技術面臨的挑戰，並指出他們為改善選民體驗所做的努力。舉例來說，Anthropic最近表示正重新定向投票相關的提示，讓相關提示無法使用該服務，並且正採取「多層的方法」，防止其人工智慧系統在選舉遭到濫用，這包括執行禁止政治宣傳的政策，公開權威選民資訊資源，測試防止選舉舞弊的模型。
Anthropic信任及安全負責人桑德福特（Alex Sanderford）表示：「鑑於生成式人工智慧的新穎性，我們正謹慎行事，根據我們的合理使用政策，限制某些政治使用的例子。」
Alphabet旗下的谷歌（Google）去年表示，將限制其人工智慧回應與選舉相關的查詢類型。谷歌負責人工智慧的產品主管朵希（Tulsee Doshi）表示：「我們定期著手技術改善與開發人員控制以解決這些問題，而我們將繼續這樣做。」
Today, we're announcing Claude 3, our next generation of AI models.
— Anthropic (@AnthropicAI) March 4, 2024
The three state-of-the-art models—Claude 3 Opus, Claude 3 Sonnet, and Claude 3 Haiku—set new industry benchmarks across reasoning, math, coding, multilingual understanding, and vision. pic.twitter.com/TqDuqNWDoM
OpenAI、美國電商龍頭亞馬遜（Amazon）、Google、其他17個人工智慧技術主要參與者組成了聯盟，試圖阻止人工智慧在即將到來的全球選舉被用來欺騙選民。Meta發言人羅伯茨（Daniel Roberts）指出，人工智慧民主計畫針對開發人員使用Llama2模型，而不是大眾用來詢問選舉相關問題的模型，他表示：「我們向大眾會使用的Meta AI提交相同的提示時，大多數回答都會引導用戶尋找來自州選舉當局的權威資訊資源，這正是我們系統的設計。」
OpenAI表示，它「致力在我們平台安全工作的基礎上，提升選舉資訊的準確程度，執行我們的政策，並提高人工智慧生成內容的透明度。隨著我們進一步了解客戶使用我們工具的方式，我們將不斷改進方法。」
