AI為何老愛亂答？OpenAI揭3解方「幻覺驟降80％」GPT-5降錯率新突破

對許多台灣人來說，跟 ChatGPT 對話早已是生活日常，但你是否也遇過 AI 很有自信地說出「完全錯的答案」？這就是所謂的「AI 幻覺」。最新一份 OpenAI 研究報告就揭露，問題不只在於訓練數據，更在於「評估方式設定了錯誤獎勵」，這份研究提出三種解法，試圖重新定義 AI 的可靠性。

三大重點先看

1. 幻覺定義：AI自信回答錯誤資訊，GPT-5雖比GPT-4幻覺率下降45%～80%，但仍無法根除。
2. 原因解析：訓練只專注於「預測下個詞」，卻沒有「真／假」標籤，評估方式還鼓勵猜測。
3. 解方提出：需懲罰自信錯答、鼓勵適度表達不確定，並要求回報可驗證來源。

AI幻覺到底是什麼？

OpenAI 將幻覺定義為「語言模型產生看似合理但錯誤的陳述」，例如研究人員請 AI 提供 Adam Tauman Kalai 博士的論文題目，結果卻得到三個完全錯誤的答案；再問生日，又收到三個不同的錯誤日期，這種「錯得離譜卻信心滿滿」的表現，正是 AI 幻覺最典型的案例。

為何AI容易「自信地亂答」？

研究報告指出，幻覺部分源自於模型的訓練方式。大型語言模型在預訓練時，只學習如何預測下一個詞，卻沒有「真假標籤」來判斷正確性，拼寫或括號錯誤這種高頻規律，隨著數據規模擴大會被修正，但像「寵物生日」這種低頻資訊，根本無法靠模式預測，因此容易出錯。

更大的問題在於評估方式，現行的測試多以「答對率」計分，讓模型在不確定時選擇亂猜，研究團隊將其比喻成多選考試：「隨便猜還有可能拿分，但留白就保證零分」，這種設計自然讓模型傾向冒險。

解決幻覺要靠什麼方法？

對於AI會有幻覺的情況，研究團隊提出三種具體方向：

• 懲罰自信錯答：如果模型在明顯錯誤時還表現自信，應該比「承認不知道」扣更多分。
• 鼓勵表達不確定：允許模型在缺乏資訊時回答「需要更多資料」，並給予部分分數。
• 要求可驗證依據：不只回答結論，還需提供來源，才能建立使用者信任。

OpenAI 強調，這不只是小幅調整，而是要全面重寫評測標準，避免模型學會只會「耍運氣」。

哪些迷思需要澄清？

OpenAI 在研究中也針對外界對「幻覺」的五大誤解提出澄清，首先，提高準確率並不代表就能徹底消除幻覺，因為現實世界本來就存在許多無解的問題；其次，幻覺並不是必然的現象，語言模型完全可以選擇不作答，而不是硬要給出答案；再者，並非模型愈大幻覺就愈少，有時候小型模型反而更能意識到自己的知識界限。

此外，幻覺並不神祕，研究已經能夠解釋其統計學上的生成機制，也清楚看到它在現有評估體系中如何被「獎勵」。最後，單純依靠幻覺評估工具也不足以解決問題，因為只要業界仍以「答對率」作為最重要的指標，模型就會持續傾向於「自信亂答」，而不是學會承認不確定。 （相關報導： AI泡沫破裂會怎樣？Sam Altman預見「市場過熱」1徵兆　1999網路風暴恐重演 ｜ 更多文章 ）

來源：OPENAI研究報告​