Plain-language definition
一句话定义
AI 自信地说出错误或编造的内容，听起来很像真的，但其实是「编的」。
Original definition
英文原文定义
Hallucination in LLMs refers to the model generating fluent but factually incorrect or fabricated content, presented with high confidence.
Two levels
分难度讲解
入门版
大模型不会「知道自己不知道」。它会顺着你给的话往下编，编得像模像样——人名、引用、数据可能全是假的。这就是幻觉，是当前 LLM 最大的坑之一。
进阶版
幻觉的根源：LLM 本质是在做「最可能的下一个 token」，而非「检索事实」。类型分为事实性幻觉（与客观事实不符）与忠实性幻觉（与给定输入不符）。缓解策略：RAG、工具调用、自我一致性、 RLHF、引用来源、置信度估计。
Real-world example
真实例子
你问 ChatGPT 「请列出 5 篇关于 XX 的真实论文」，它可能编出根本不存在的论文标题、作者、期刊——听起来非常真实。
Keep exploring