# AI 为啥一本正经地胡说？它不是在答你，是在"接话" - URL: https://davidyin.dev/writing/ai-hallucination-explained/ - 作者: David Yin - 发布: 2026-06-08 - 标签: x-article - 摘要: 你有没有这种感觉：AI 有时候像个什么都知道的人，但有的时候——它编一本不存在的书、造一条查无此人的名言、捏一个从没发生过的新闻，还说得有鼻子有眼。 ## 你以为它在"回答"你，其实它在"接话" 你有没有这种感觉：AI 有时候像个什么都知道的人，但有的时候——它编一本不存在的书、造一条查无此人的名言、捏一个从没发生过的新闻，还说得有鼻子有眼。 你第一反应是：它是不是记错了？是不是"产生幻觉"了？ 都不是。 先想一件事：你手机打字的时候，打一个"我"，输入法会猜"想"；打"我想"，它猜"吃"；打"我想吃"，它猜"火锅"。它猜得准，不代表它知道你饿——它只是见过太多人打完"我想吃"后面跟着"火锅"。 AI 干的，就是这件事的亿万倍放大版。 你给它一句话，它猜下一个字最可能是什么。然后猜下下个，再猜下下下个。从头到尾，它没有一个步骤是在"查一下正确答案是什么"——它只是在一路猜下去。 它不是在回答你。它在接话。 ## 它判断的不是"真不真"，是"顺不顺" 既然它唯一会做的事，就是"找一个最顺的接法"，那问题来了：**最顺的接法，和现实里存在的答案，是一回事吗？** 不是。 2023 年有个真实案例。一个律师用 ChatGPT 查判例，AI 给列了几个引文——案号、法官名字、判决日期，一个不缺。律师把它们写进诉讼状。对面律师一看：这几条判例根本不存在，是 AI 凭空编的。法官气得罚了这个律师 5000 美元。 注意整个过程：AI **不是**知道没有这个案例但故意骗他。它是听说"用户要一个关于 X 的判例"，然后顺着往下一路猜——猜出了几个听起来特别像那么回事的案号、几个特别像真法官的名字，最后接出了一段"看起来像判例摘要"的文字。**它判断的从头到尾只有一件事：这样接顺不顺。现实里有没有这回事，它从不过问。** 它能把不存在的东西说得有鼻子有眼，正是因为"存在"从来不是它的评价标准。 ## 它说真话和编瞎话，是同一个动作 到这里最让人不安的事情出现了。 你可能会想：那它说假话的时候，至少心虚一下吧？至少没有那么自信吧？ 错了。它**说真话和编瞎话，用的是同一个动作、同一种自信**——因为对它来说，两者根本没有区别。 你问它"太阳从哪边升起"，它找到一个最顺的接法："东边"。你问它"北京人口多少"，它找到一个最顺的接法："约 2200 万"。你问它"2025 年诺贝尔物理学奖得主是谁"，它找到一个最顺的接法……然后给你一个名字，这个名字可能是对的，也可能是顺着接出来的"听起来最像获奖者"的名字。 它说"东边"的时候，没有确认过太阳是不是真的从东边升起。它说那个编出来的获奖者的时候，也没有"暗自心虚"——两个动作一模一样，都是猜了一个最顺的字。**在默认生成的过程中，它并没有先去核实任何一件事。** 这就是为什么它说错时脸上没有任何破绽：因为它说真话的时候，也从没核实过。 学术界有人专门写了一篇论文讨论这个问题，里面的一个核心发现很关键——**AI 对输出内容的真假是"漠不关心"的**。不是想骗你，是不在乎。说对了，它不关心；说错了，它也不关心。它只关心一件事：这样接顺不顺。 ## 它被训练成"宁可瞎猜，也不交白卷" 你可能会问一个更根本的问题：**它为什么不能直接说"我不知道"？** 答案藏在它的训练方式里。 想象一下你考试的时候遇到一道完全不会的题。空着交上去，零分。蒙一个答案，运气好还能蒙对几分。 AI 接受的"训练"，本质上就是无数次这种考试。只不过每次判卷的标准不是"你是不是真的懂"，而是**"你猜的答案和标准答案像不像"**。空着一分不得，蒙一个至少还有机会得分。模型就是这么被训练出来的——宁可猜也别交白卷。 OpenAI 在 2025 年发过一篇论文，专门解释模型为什么会胡说。核心发现可以这样说：训练方式和排行榜评测，都在奖励模型"自信地猜"，而不是"老实承认不确定"。于是模型学会了一个生存技巧——**虚张声势**。不管会不会，先接一句再说，声量要足。 所以你现在知道为什么你问什么它都接，哪怕编一个从不存在的事实，也不会卡住说"这个我不确定"：**它被训练成不会空着。** ## 越"聪明"的 AI，越敢一本正经地胡说 到了 2026 年，出现了一个非常反常识的现象。 按理说，AI 越来越"会思考"——那种会"推理"的新一代模型，应该更靠谱对吧？ 实际刚好相反。OpenAI 的 o3 模型——当时最受关注的推理模型之一——在事实问答上的"胡说率"接近 33%，比它前一代的 o1 几乎翻了一倍。DeepSeek 那边更夸张：推理版 R1 的胡说率 14.3%，基础版 V3 只有 3.9%，差了近四倍。 为什么越"聪明"的越会胡说？ 因为"推理"能力带来的一个风险是：**它能把假话说得更圆了。** 老模型编一条不存在的事，可能编得漏洞百出。新模型先想一下"怎样编得最像真的"，然后流畅地接出一个毫无破绽的版本。它不是更诚实了，它是更擅长把编出来的东西说得跟真的一样。 所以那个反直觉的事实成立了：你越觉得它聪明、越信任它，反而越危险。 --- 最后说一个最简单的动作，你可以从现在开始用。 你心里每次想说"**它说**……"的时候，换一个字——"**它猜**……"。 "它猜东边是日出方向。""它猜北京人口约 2200 万。""它猜那本不存在的书有这么个引文。" 你不用懂任何技术。你只需要记住：它不是在告诉你答案。它在一路猜下去，猜一个**像**答案的句子。 这一个字的替换，就把判断权重新放回了你自己手里。