AI 为什么会一本正经胡说八道？3 分钟视频

这期讲了什么

• 撞见 AI 幻觉的三种场景：编一个不存在的人名、编一篇有作者年份结论但查无此文的论文、答得顺畅其实答偏
• 本质：AI 不是查资料给答案，是预测下一个最可能的词，它根本不知道自己说的对错，赌错了也不心虚
• 这不是某个 AI 的 Bug，是这类技术自带的特性——猜错了和猜对时一样自信，目前所有大语言模型都有这个问题
• 三招防幻觉：事实性答案交叉验证；分清它擅长整理翻译写初稿、不擅长事实核对；问得越具体猜偏概率越小

文字稿

三种会撞上 AI 幻觉的场景

欢迎来到 AI 黑话翻译机——三分钟，搞懂一个 AI 概念。今天要翻译的词是 AI 幻觉。这词听着挺科幻，但它每天都在坑人。你让 AI 帮你查个人名、查个日期、查篇论文，它一本正经地给你一个答案，结果那个答案是编的——人是假的，论文压根不存在。你要是没去核实，就被它骗了还不知道。所以哪怕你完全不懂技术，这个词也必须搞明白。

先说你在哪儿撞见过它。第一种最常见：你让 AI 查个东西，比如某本书的作者是谁，它特别快、特别自信地甩给你一个名字，你仔细一查，那人根本不存在。第二种更隐蔽：你让它找一篇论文，它连作者、发表年份、核心结论都说得头头是道，直到你去数据库一搜，发现这篇论文从来没存在过——它不光编了答案，还编了一整套细节来支撑。第三种你可能都没察觉：你问它一个具体问题，它答得特别顺畅，但其实答偏了，给你的不是你要的答案，而是一个「听起来像回事」的答案。这三种本质上都是同一件事——AI 在编，而且它编的时候一点不心虚。

为什么会编：AI 在猜词，不是在查资料

那它到底为什么会编？用一个特别好懂的类比——一个自信的说谎者。一个啥也不懂又死要面子的人被问到问题，会根据你问题里的关键词顺着话头，编出一个听起来特别像回事的答案，因为他不敢说「我不知道」。

AI 就是这样的。它的工作方式从根上说不是「查资料给答案」，而是「预测下一个最可能的词」。你给它一个问题，它一个字一个字往下接：这个词后面该接什么？再后面呢？一路接下去，就「生成」了一段完整回答。大部分时候它接出来的词确实是对的，但问题在于它根本不知道自己说的是对还是错——它只是在赌这个词「听起来合理」，赌对了你拿到正确答案，赌错了就产生一段胡说八道，也就是幻觉。

所以这不是某个 AI 的 Bug，是这类技术自带的特性：它天生靠「猜」来回答问题，猜错了也不自知，猜错了跟猜对的时候一样自信。叫它「幻觉」特别贴切——它自己信了，你也差点信了。

三招防住 AI 幻觉

搞懂这件事能带来三条实在的好处。第一，交叉验证：AI 给你一个事实性答案——人名、日期、论文——别直接拿去用，去搜索引擎、去原始来源核实一遍，养成这个习惯幻觉就坑不到你。第二，分清它擅长什么：整理信息、翻译、写初稿这些事它很强，但「某个事实到底是什么」这类问题上可靠性要打个问号，知道边界就知道什么时候该信、什么时候该自己查。第三，提问方式能降低幻觉：你问得越具体它猜偏的概率越小，「帮我查二〇二四年诺贝尔物理学奖获奖者」比「物理学最近有什么大事」靠谱得多，把问题收紧，编的空间就小。

记住一句话就够了：AI 幻觉不是 AI 出了 Bug，而是它靠「猜」来回答问题、猜错了也不自知——所以关键信息一定要自己去核实。目前所有大语言模型都存在幻觉问题，这是行业公认的难题，各家都在努力解决但还没完全消除，所以这个习惯短期之内你用得上。

常见问题

AI 幻觉是什么意思？

指 AI 一本正经地编造信息：查人名给你一个不存在的人，查论文给出一篇作者、年份、结论齐全但从未发表的文章。本质是 AI 在预测下一个听起来合理的词，而不是在查资料，编的时候毫不心虚。

AI 幻觉是 Bug 吗？能解决吗？

不是 Bug，是这类技术自带的特性——AI 天生靠「猜」回答问题，猜错了也不自知，和猜对时一样自信。目前所有大语言模型都存在幻觉，行业公认尚未完全消除，所以关键信息要自己核实。

怎么减少 AI 胡说八道？

三招：事实性答案去搜索引擎和原始来源交叉验证；认清它擅长整理、翻译、写初稿但不擅长事实核对；提问越具体越好——「查 2024 年诺贝尔物理学奖得主」比「物理学最近有什么大事」靠谱得多。