# AI 为什么漏看中间的提示词？注意力分配 - URL: https://davidyin.dev/video/bv1ufyr6seny/ - 作者: David Yin - 发布: 2026-09-14T08:54:07+08:00 · 更新: 2026-09-29 - 时长: 03:33 - 平台: B 站 https://www.bilibili.com/video/BV1ufYr6SENy · YouTube https://www.youtube.com/watch?v=-r41UqCPOtM · 视频号（搜索「不确定体验局」） - 标签: AI 注意力、中间丢失、提示词、上下文、DeepSeek - 摘要: AI 为什么看不见你写在中间的要求？一句话答案：注意力是一份要分配出去的有限额度，这边多给那边就少给，研究还发现信息放开头结尾抓得最准、放中间明显变差。这期讲清机制，以及把重点挪到开头或结尾重复这个实用做法。 ## 这期讲了什么 - 现象：同一句要求，搁在开头 AI 就接住，塞进中间它就不吭声，换几款模型照旧漏——不是你没讲清楚 - 注意力是一份预算：AI 读你的话时给每个字打分，总量固定、这边多分那边就少，技术上叫归一化，分完加起来正好一整份 - 研究佐证：2024 年一篇被 ICLR 收录的研究发现模型会把很大一份注意力压在一个没意义的字上（注意力汇）；2023 年研究测过同一段信息放开头结尾抓最准、放中间明显变差，长上下文模型也一样——是趋势不是铁律 - Dan Koe 的定义：目标是一层过滤器，盯住一件事按定义就没在看其余 99.99%；这是心理学说法，和 AI 的数学注意力只是被同一条「有限、要分配」的约束卡住，不是一个东西 - 实用做法：没法命令 AI 多看哪句，但可以把最要紧的要求放到第一位，或者在结尾再说一遍 ## 文字稿 ### 同一句话，换个位置 AI 就当没看见 AI 的注意力，会漏掉你那句话。这事我一开始也想岔了，以为是自己的问题。同一句要求，往前挪一行，AI 就看懂了；往后挪，AI 当你没写。同样的字，一个没改。 你可能想过，是不是模型还不够强？换一款就好了？可你换过几款，它照旧漏。同一句话，搁在开头能接住，塞进中间就不吭声了，这是为什么？ ### 注意力是一份要分出去的预算 三天前，9 月 10 号，DeepSeek 官方放出新模型 V4.1-Flash。技术媒体写得更细：新架构让模型内部别再每一层都重挑一遍重点，直接沿用上一层挑好的。行业里肯为这类改动的不多。 9 月 12 号，Dan Koe 在自己的通讯上发了篇文章。他给目标换了个定义：目标是一层过滤器，决定你把什么当重要、把什么当忽略。他管这个叫选择性注意。他还有句更狠的：你盯住一件事，按定义，你就没有在看其余 99.99% 的东西。 说明一下：那篇文章底下推的是他自己的训练营，还有一个要注册的工具。所以我只当观点听。可这句放到 AI 身上，能被直接看到。 我的判断是：这不是鸡汤。AI 里真有个东西叫注意力，它干的事，跟目标有点像：就是一份预算，得分配出去，总量就那么多，这边多分一点，那边就必然少一点，两边是在抢同一份。技术上叫归一化：分完加起来正好一整份。 ### 把重点放第一位，或在结尾再说一遍 这对你意味着什么？你贴给 AI 的那一整段话，行话叫上下文，就是 AI 一次能看完的全部内容。最要紧的那句要是埋在中间，很可能被跳过去。你没法命令它多看哪句，但能帮它重新分配：放到第一位，或者在结尾再说一遍。 这不是我猜的。2024 年有篇被 ICLR 这个会议收录的研究发现，模型会把很大一份注意力，压在一个没什么意义的字上。模型使劲看的地方，不一定是重要的地方。至于为什么，研究的人还在争。 我核过。2023 年有篇研究专门测过位置：同一段信息，放在开头或结尾，模型抓得最准；放到中间明显变差，连说自己能读很长的模型也一样。不过这是趋势，不是铁律。 有句话得说清楚：像，不等于是一个东西。AI 的注意力是一次能写下来的数学运算；Dan Koe 说的选择性注意，是心理学上的说法。说这两个一样，就是把比方当成了等同。它们其实被同一条约束卡住：都有限，都得往外分，怎么分也都受目标影响。 也说件我们自己的事：这个号的推荐分发，7 月上旬就断了，还没接上。注意力只决定你看见什么，管不了别人看不看得见你。 下次给 AI 派活，把最要紧的那句挪到最前面试试。 ## 常见问题 ### AI 为什么会漏看提示词中间的要求？ AI 的注意力是一份要分配出去的有限额度，这边多分一点、那边就必然少一点。最要紧的要求埋在中间，很容易被跳过去。2023 年一篇研究测过：同一段信息放开头或结尾模型抓得最准，放中间明显变差——这是统计趋势，不是铁律。 ### 怎么让 AI 注意到提示词里的重点？ 你没法命令它多看哪一句，但能帮它重新分配注意力：把最要紧的要求放到第一位，或者在结尾再重复一遍。实测中，换位置常常比换模型管用。 ### 模型把大量注意力放在没意义的字上是什么研究？ 2024 年一篇被 ICLR 收录的研究发现，模型会把很大一份注意力压在一个没什么意义的字上，这被称为注意力汇。模型使劲看的地方不一定是重要的地方，至于为什么，研究的人还在争。 > 视频不在本站托管，正片见上方平台链接；本页是目录与注解。