AI 幻覺（AI Hallucination）是什麼？

AI 幻覺是指模型自信地產生不正確或虛構內容的現象，例如捏造不存在的論文或數據。NIST 在 2024 年的 AI 600-1 文件稱之為「虛談」（confabulation）；OpenAI 2025 年 9 月的研究則指出，只看答對率的評測方式會鼓勵模型猜答案而非承認不知道。

基礎概念HallucinationAI 幻覺幻覺一本正經胡說八道虛構內容Confabulation

一句話說明

AI 以很有把握的語氣，說出錯誤、不存在或與事實不符內容的現象。

AI 幻覺怎麼運作？

1. 模型依統計規律預測「最可能接下來的文字」，而非查核事實。
2. 遇到訓練資料少或沒看過的問題時，仍會產生看似合理的答案。
3. 若訓練與評測只獎勵答對、不獎勵說「不知道」，模型更傾向猜測。
4. 結果就可能出現語氣篤定但內容錯誤的回答。

實際例子

• 詢問某人的論文題目，AI 給出看似合理卻不存在的標題。
• AI 列出的參考文獻或網址根本查不到。
• 摘要文件時加入原文沒有的數字或結論。

常見誤解

常見問題

要怎麼減少 AI 幻覺帶來的問題？

可以提供可靠資料讓 AI 依據回答（例如 RAG）、要求附上來源、允許它回答「不知道」，並對數字、人名、法律醫療等重要資訊自行查證原始出處。

為什麼 AI 會產生幻覺？

模型是依訓練資料的統計規律產生文字，不是查資料庫。OpenAI 2025 年研究指出，評測常只算答對率，讓猜答案比承認不確定更「划算」，因此模型容易自信地給出錯誤答案。

相關名詞

檢索增強生成、大型語言模型、生成式 AI、推理模型

參考來源

• OpenAI：Why language models hallucinate（2025-09-05）
• NIST AI 600-1：Generative Artificial Intelligence Profile（2024-07）

查核日期：2026-09-26。API：/api/term?id=hallucination