# AI幻覺  

身為AI原生的Agentic AI即服務（AaaS）公司，Appier今（24）日發表最新研究論文《大型語言模型的校準研究：從回應表現到能力評估》，針對大型語言模型（LLM）在實務應用中常見的過度自信與幻覺問題，提出全新的能力校準概念，讓AI能更準確地判斷其對特定問題的解題能力。這項研究為AI Agent開啟一項嶄新的關鍵能力──在回應問題之前，先評估「自己......

「你才華橫溢、富有創意、慷慨大方、工作勤奮。」 AI總是這樣對我說。這都「多虧」了所謂的「人工智慧諂媚」（AI sycophancy）——這些機器人僕從們以服務我們為使命，因此傾向於只說我們愛聽的話。結果就是，我所用的AI工具通常只會給予我積極的強化反饋。 即日起至 2026 年 5 月 10 日，訂閱《風傳媒Ｘ華爾街日報》VVIP，我們將替您捐......

隨著企業越來越信賴人工智慧「代理人」能夠獨立運作並為公司增加營收，一些保險業者已開始提供專門保障來涵蓋任何可能的失誤，另一些業者則選擇暫時避開這塊領域。專門保險公司Armilla的人工智慧政策與合作主管菲爾．道森（Phil Dawson）指出，使用先進人工智慧的核心目的，就是要大幅取代人類在決策過程中的協助與監督。這波代理型人工智慧的趨勢已在全球掀起熱潮......

近年AI應用快速擴張，但不少使用者仍經常抱怨聊天機器人「記憶力差」，需要反覆重複問題才能獲得正確回應。一家AI軟體公司近日釋出一個相當特殊的AI職缺，名稱甚至直接寫成「AI霸凌員（AI Bully）」。這個AI職缺的工作內容非常簡單：與多款主流AI聊天機器人互動，並且誠實指出它們令人困擾的地方。該公司在職缺說明中寫道：「你將花整整8小時與主流AI聊天機器人互......

即使是最先進的生成式AI系統，仍會自信地輸出錯誤或捏造的資訊，例如編造不存在的功能、錯誤引用來源或誤讀圖表。最近一項名為PHARE（Pervasive Hallucination Assessment in Robust Evaluation） 的研究顯示，幻覺不僅持續存在，甚至在部分主流模型中有增加的趨勢。Bloomberg Law最近也報導，2025年全......

在生成式AI工具快速擴張的浪潮中，Google Notebook LM以截然不同的產品定位切入市場。這款由Google推出的實驗型AI筆記工具，並未強調即時聊天或創作能力，而是聚焦於一個更被低估、卻極為關鍵的需求，如何有效理解、整理與驗證大量資料。也正因如此，Google Notebook LM近期在研究社群、知識工作者與學生族群中快速累積聲量。與多數AI工......

OpenAI最新升級推出GPT-5.1，背後其實藏著一整套「AI助理改造計畫」，這次推出的 GPT-5.1 系列，同步帶來主打速度的 GPT-5.1 Instant，以及主打深度思考的 GPT-5.1 Thinking，強調在「少犯錯、懂指令、會說話」三個面向全面調整，OpenAI 表示，新版已對付費用戶開放，台灣用戶也在此次更新之列，只要進入設定即可調整語......

「鏡子」前，我們正在失去什麼？ 我們生活在一個狂熱擁抱人工智慧（AI）的時代。ChatGPT每天被詢問約25億個問題，其背後的電力消耗驚人，足以點亮燈泡9500年。AI的承諾是無限的便利、無所不知的答案；然而，在我們將一切問題「丟給AI」的同時，一場無聲的心靈危機正在發生。精神科醫師觀察到，越來越多人罹患「AI幻覺後群」，出現妄想症狀、將自己神格化，甚至對A......

兩年多前，人工智慧（AI）先驅約書亞・班吉歐（Yoshua Bengio）曾是呼籲暫停AI模型開發、專注於安全標準的最響亮發聲者之一。 但沒有人停下腳步。相反的，各家公司繼續投入數千億美元，用於構建更先進的模型，這些模型能夠執行長鏈推理，並且能夠日益代表用戶採取自主行動。如今，被視為「AI教父」之一的班吉歐和以往一樣憂心忡忡。 海量資訊去蕪存菁！全球......

對許多台灣人來說，跟 ChatGPT 對話早已是生活日常，但你是否也遇過 AI 很有自信地說出「完全錯的答案」？這就是所謂的「AI 幻覺」。最新一份 OpenAI 研究報告就揭露，問題不只在於訓練數據，更在於「評估方式設定了錯誤獎勵」，這份研究提出三種解法，試圖重新定義 AI 的可靠性。三大重點先看幻覺定義：AI自信回答錯誤資訊，GPT-5雖比GPT-4幻覺......

「科技最深的危險，不在於它的功能，而在於它讓人們忘記自己本該是思考者。」—— 卡爾・雅斯培（Karl Jaspers）晚近，生成式人工智慧（Generative AI）以驚人速度擴散至社會各層面，「AI識讀」（AI literacy）也從過去的教育邊陲議題，快速轉化為民主制度存續的核心變項。這不僅關係到工具理性的運用，更觸及政治主體性、生存權與語言主權等深層......

對於廣大ChatGPT使用者而言，「到底該用哪一個模型？」已成為日常最大的困擾。曼報主筆Manny YH Li在臉書發表文章指出，面對官方模糊不清的說明與日漸繁多的選項，OpenAI創始成員Andrej Karpathy近期根據個人使用經驗，提出了簡潔明瞭的ChatGPT模型選擇建議，同時也點出在AI時代，遠比模型本身更重要的三大人機協作能力。ChatGPT......

根據美國司法部與Google訴訟案中揭露的內部資料，《The Verge》報導指出，OpenAI正策劃一項名為《ChatGPT：2025年上半年戰略》的宏大計畫，將ChatGPT打造成具備「T型能力」的超級語音助理，這款AI將能解決從找房、聯絡律師到寫程式等多元需求，挑戰目前由蘋果Siri主導的手機語音助理市場。ChatGPT會成為手機預設AI助理嗎？該份計......

如果說兩年前ChatGPT的橫空出世，掀起了全球AI浪潮，那麼2025年初DeepSeekR1的發佈與爆紅，則真正讓無數中國人第一次親手觸及了AI應用。

中國一款面向兒童的「智慧」手錶最近給出涉嫌侮辱中國人智商、詆毀中國「四大發明」的答案，引發中國網友討伐。此前，中國一款AI學習機「創作」出一篇公然批評中共前領導人毛澤東的作文，引起軒然大波。儘管中國政府試圖全方位對AI內容進行審查和監管，但分析認為，AI訓練是基於民間言論中的多種聲音，即使是中國國產AI產品也難免與官方口徑不一致。

在這個AI技術日益進步與普及的時代，許多人都有跟大型語言模型（LLM）對話的經驗。如果你也是其中一員，或許以下情境對你並不陌生：ChatGPT回答問題時自信、連貫，細看答案卻悖離事實、完全錯誤。這種生成式AI「一本正經胡說八道」的詭異現象，人工智慧業界將其稱為（AI）「幻覺」（hallucination）或者（AI）「妄想」（delusion），《經濟學人》則給出四種建議的解方。