# AI幻覺  

生成式AI能寫文章、做簡報、查資料，甚至幾分鐘完成過去要花數小時的工作，但知識力科技執行長曲博在《下班國際線》提出一個最簡單的AI景氣指標：不用先看華爾街資本支出，只要自己打開ChatGPT問幾個真正懂的問題，看它還會不會「一本正經胡說八道」。曲博直言，AI模型至今仍沒有徹底解決AI幻覺與錯誤資訊問題。若未來一兩年情況沒有明顯改善，他認為雲端服務商對AI的投......

醫生們原本就要應付上網尋求醫療建議的患者，如今，他們還得應對一個更強大的新版「Google醫生」（Dr. Google）。研究顯示，如今大多數美國成年人在與醫生溝通前，都會在線上查看自己的化驗結果。這在一定程度上得益於2021年生效的一項法律條款，該條款旨在幫助患者近乎即時地獲取個人健康資訊，包括實驗室報告、影像檢查結果和臨床病歷。越來越多的患者甚至將化驗結......

英國爆發首起執法人員濫用人工智慧（AI）干預司法的醜聞，根據《金融時報》（Financial Times）披露，德比郡（Derbyshire）一名負責調查多起性侵案件的警探，被發現涉嫌在準備法庭證據時，刻意利用警局聊天機器人，下達帶有強烈偏見的指令，藉此「捏造產出」有利於警方預期結果的法律文件，藉此確保嫌犯遭到起訴或定罪，目前該名警察已被解除既有職務並遭停職......

全球最頂尖的律師事務所之一、總部位於美國紐約市的蘇利文與克倫威爾（Sullivan & Cromwell，簡稱S&C）事務所，近期突然向紐約聯邦破產法院（US federal bankruptcy court），提交一份令外界震驚的道歉信件。根據信件內容指出，該事務所承認、先前在一份涉及追討高額資產的重大法律文件中，他們錯誤引用多處由人工智慧（AI）軟體生成......

查德．奧爾森（Chad Olson）被搞糊塗了——他的Gemini人工智慧（AI）聊天機器人告訴他，日曆上標記了一個家庭聚會策劃會。當時，奧爾森正行駛在明尼阿波利斯下班回家的路上，他完全不記得安排過這項活動，於是讓機器人總結一下他最近的郵件。即日起至 2026 年 5 月 10 日，訂閱《風傳媒Ｘ華爾街日報》VVIP，我們將替您捐出 500 元給花蓮縣角兒愛......

「你才華橫溢、富有創意、慷慨大方、工作勤奮。」 AI總是這樣對我說。這都「多虧」了所謂的「人工智慧諂媚」（AI sycophancy）——這些機器人僕從們以服務我們為使命，因此傾向於只說我們愛聽的話。結果就是，我所用的AI工具通常只會給予我積極的強化反饋。 即日起至 2026 年 5 月 10 日，訂閱《風傳媒Ｘ華爾街日報》VVIP，我們將替您捐......

隨著企業越來越信賴人工智慧「代理人」能夠獨立運作並為公司增加營收，一些保險業者已開始提供專門保障來涵蓋任何可能的失誤，另一些業者則選擇暫時避開這塊領域。專門保險公司Armilla的人工智慧政策與合作主管菲爾．道森（Phil Dawson）指出，使用先進人工智慧的核心目的，就是要大幅取代人類在決策過程中的協助與監督。這波代理型人工智慧的趨勢已在全球掀起熱潮......

即使是最先進的生成式AI系統，仍會自信地輸出錯誤或捏造的資訊，例如編造不存在的功能、錯誤引用來源或誤讀圖表。最近一項名為PHARE（Pervasive Hallucination Assessment in Robust Evaluation） 的研究顯示，幻覺不僅持續存在，甚至在部分主流模型中有增加的趨勢。Bloomberg Law最近也報導，2025年全......

兩年多前，人工智慧（AI）先驅約書亞・班吉歐（Yoshua Bengio）曾是呼籲暫停AI模型開發、專注於安全標準的最響亮發聲者之一。 但沒有人停下腳步。相反的，各家公司繼續投入數千億美元，用於構建更先進的模型，這些模型能夠執行長鏈推理，並且能夠日益代表用戶採取自主行動。如今，被視為「AI教父」之一的班吉歐和以往一樣憂心忡忡。 海量資訊去蕪存菁！全球......

對許多台灣人來說，跟 ChatGPT 對話早已是生活日常，但你是否也遇過 AI 很有自信地說出「完全錯的答案」？這就是所謂的「AI 幻覺」。最新一份 OpenAI 研究報告就揭露，問題不只在於訓練數據，更在於「評估方式設定了錯誤獎勵」，這份研究提出三種解法，試圖重新定義 AI 的可靠性。三大重點先看幻覺定義：AI自信回答錯誤資訊，GPT-5雖比GPT-4幻覺......

對於廣大ChatGPT使用者而言，「到底該用哪一個模型？」已成為日常最大的困擾。曼報主筆Manny YH Li在臉書發表文章指出，面對官方模糊不清的說明與日漸繁多的選項，OpenAI創始成員Andrej Karpathy近期根據個人使用經驗，提出了簡潔明瞭的ChatGPT模型選擇建議，同時也點出在AI時代，遠比模型本身更重要的三大人機協作能力。ChatGPT......

根據美國司法部與Google訴訟案中揭露的內部資料，《The Verge》報導指出，OpenAI正策劃一項名為《ChatGPT：2025年上半年戰略》的宏大計畫，將ChatGPT打造成具備「T型能力」的超級語音助理，這款AI將能解決從找房、聯絡律師到寫程式等多元需求，挑戰目前由蘋果Siri主導的手機語音助理市場。ChatGPT會成為手機預設AI助理嗎？該份計......

如果說兩年前ChatGPT的橫空出世，掀起了全球AI浪潮，那麼2025年初DeepSeekR1的發佈與爆紅，則真正讓無數中國人第一次親手觸及了AI應用。

中國一款面向兒童的「智慧」手錶最近給出涉嫌侮辱中國人智商、詆毀中國「四大發明」的答案，引發中國網友討伐。此前，中國一款AI學習機「創作」出一篇公然批評中共前領導人毛澤東的作文，引起軒然大波。儘管中國政府試圖全方位對AI內容進行審查和監管，但分析認為，AI訓練是基於民間言論中的多種聲音，即使是中國國產AI產品也難免與官方口徑不一致。

在這個AI技術日益進步與普及的時代，許多人都有跟大型語言模型（LLM）對話的經驗。如果你也是其中一員，或許以下情境對你並不陌生：ChatGPT回答問題時自信、連貫，細看答案卻悖離事實、完全錯誤。這種生成式AI「一本正經胡說八道」的詭異現象，人工智慧業界將其稱為（AI）「幻覺」（hallucination）或者（AI）「妄想」（delusion），《經濟學人》則給出四種建議的解方。