AI 为什么漏看中间的提示词？注意力分配

这期讲了什么

• 现象：同一句要求，搁在开头 AI 就接住，塞进中间它就不吭声，换几款模型照旧漏——不是你没讲清楚
• 注意力是一份预算：AI 读你的话时给每个字打分，总量固定、这边多分那边就少，技术上叫归一化，分完加起来正好一整份
• 研究佐证：2024 年一篇被 ICLR 收录的研究发现模型会把很大一份注意力压在一个没意义的字上（注意力汇）；2023 年研究测过同一段信息放开头结尾抓最准、放中间明显变差，长上下文模型也一样——是趋势不是铁律
• Dan Koe 的定义：目标是一层过滤器，盯住一件事按定义就没在看其余 99.99%；这是心理学说法，和 AI 的数学注意力只是被同一条「有限、要分配」的约束卡住，不是一个东西
• 实用做法：没法命令 AI 多看哪句，但可以把最要紧的要求放到第一位，或者在结尾再说一遍

文字稿

同一句话，换个位置 AI 就当没看见

AI 的注意力，会漏掉你那句话。这事我一开始也想岔了，以为是自己的问题。同一句要求，往前挪一行，AI 就看懂了；往后挪，AI 当你没写。同样的字，一个没改。

你可能想过，是不是模型还不够强？换一款就好了？可你换过几款，它照旧漏。同一句话，搁在开头能接住，塞进中间就不吭声了，这是为什么？

注意力是一份要分出去的预算

三天前，9 月 10 号，DeepSeek 官方放出新模型 V4.1-Flash。技术媒体写得更细：新架构让模型内部别再每一层都重挑一遍重点，直接沿用上一层挑好的。行业里肯为这类改动的不多。

9 月 12 号，Dan Koe 在自己的通讯上发了篇文章。他给目标换了个定义：目标是一层过滤器，决定你把什么当重要、把什么当忽略。他管这个叫选择性注意。他还有句更狠的：你盯住一件事，按定义，你就没有在看其余 99.99% 的东西。

说明一下：那篇文章底下推的是他自己的训练营，还有一个要注册的工具。所以我只当观点听。可这句放到 AI 身上，能被直接看到。

我的判断是：这不是鸡汤。AI 里真有个东西叫注意力，它干的事，跟目标有点像：就是一份预算，得分配出去，总量就那么多，这边多分一点，那边就必然少一点，两边是在抢同一份。技术上叫归一化：分完加起来正好一整份。

把重点放第一位，或在结尾再说一遍

这对你意味着什么？你贴给 AI 的那一整段话，行话叫上下文，就是 AI 一次能看完的全部内容。最要紧的那句要是埋在中间，很可能被跳过去。你没法命令它多看哪句，但能帮它重新分配：放到第一位，或者在结尾再说一遍。

这不是我猜的。2024 年有篇被 ICLR 这个会议收录的研究发现，模型会把很大一份注意力，压在一个没什么意义的字上。模型使劲看的地方，不一定是重要的地方。至于为什么，研究的人还在争。

我核过。2023 年有篇研究专门测过位置：同一段信息，放在开头或结尾，模型抓得最准；放到中间明显变差，连说自己能读很长的模型也一样。不过这是趋势，不是铁律。

有句话得说清楚：像，不等于是一个东西。AI 的注意力是一次能写下来的数学运算；Dan Koe 说的选择性注意，是心理学上的说法。说这两个一样，就是把比方当成了等同。它们其实被同一条约束卡住：都有限，都得往外分，怎么分也都受目标影响。

也说件我们自己的事：这个号的推荐分发，7 月上旬就断了，还没接上。注意力只决定你看见什么，管不了别人看不看得见你。

下次给 AI 派活，把最要紧的那句挪到最前面试试。

常见问题

AI 为什么会漏看提示词中间的要求？

AI 的注意力是一份要分配出去的有限额度，这边多分一点、那边就必然少一点。最要紧的要求埋在中间，很容易被跳过去。2023 年一篇研究测过：同一段信息放开头或结尾模型抓得最准，放中间明显变差——这是统计趋势，不是铁律。

怎么让 AI 注意到提示词里的重点？

你没法命令它多看哪一句，但能帮它重新分配注意力：把最要紧的要求放到第一位，或者在结尾再重复一遍。实测中，换位置常常比换模型管用。

模型把大量注意力放在没意义的字上是什么研究？

2024 年一篇被 ICLR 收录的研究发现，模型会把很大一份注意力压在一个没什么意义的字上，这被称为注意力汇。模型使劲看的地方不一定是重要的地方，至于为什么，研究的人还在争。