2026 · 08 · 19 14:16

给 AI 喂多少资料合适?IBM 八模型实测

给 AI 喂资料是不是越多越好?IBM 在 Hugging Face 的实测给了反直觉答案:大模型 DeepSeek V3.2 塞整本手册任务完成率涨近一成,小模型 gpt-oss 被淹掉、只喂相关几条反而涨 16.1 个百分点且最省钱,GLM-5 怎么喂都不动。视频给出先剪再贴、贴完复述、长文档先要摘要三条喂料规矩。

同期发布在

这期讲了什么

文字稿

经验贴士:智能体怎么自己攒经验

你肯定把一整堆资料糊给过 AI。一份文档,一长串要求,全贴进对话框,回车。它答得一本正经,头头是道,听上去哪儿都对,可你最在意的那个点它正好漏了。你肯定复盘过:是不是我没说清楚?是不是资料没排整齐?于是下一次你贴得更多、要求写得更细,结果它还是漏。今天先给你吃颗定心丸:这口锅真不全是你的。它漏,是因为它接不住。

说这个,是因为 IBM 在 Hugging Face 发了份实测。Hugging Face 就是 AI 圈那个开源社区,研究团队把成绩单都摊在那里,评的都是大家叫得上名字的模型。里头最反直觉的一条:花钱最少的那种喂法,涨得反而最多。

先看 AI 的记性。你平时聊天用的那个 AI,每次对话基本是失忆的:今天问它的事,明天再问一遍,它跟没听过一样。可有一类做法能让它把干活的经验攒下来——攒的不是聊天记录,是它从自己干过的活里学出来的经验。这种能自己攒经验的 AI 有个名字,叫智能体:你给它一个目标,它自己查资料、点按钮、把事办完,跟只会陪聊的 AI 不是一回事。

IBM 让这类智能体先干一批活,再回头翻它的干活记录:成功是怎么干成的,失败是栽在哪儿的,事后是怎么补救的,一条一条提炼成小纸条。纸条上写的都是实在话,比如转账之前先核对收款人的全名,删东西之前先确认备份还在不在。下次干活前把这一叠小纸条塞回它眼前,等于开工前把经验写在桌上。最省心的是,不用把模型回炉重练,也不用请人一条条标注,这一圈跑下来全是它自己给自己补课。IBM 还给它配了个翻纸条的本事:开工之前先翻一遍,只把跟眼前这活最对得上的几条挑出来喂。

三种模型三种吃法

IBM 把八款模型请进同一个考场,从最小的开源款到各家压箱底的旗舰,成绩单只公开了五款代表,我捡三款最有戏的讲。考场是个模拟出来的 App 世界:日历、聊天、转账全都有,可全是假的,碰不到真钱真数据。模型要在里头自己把事办成,都是多步任务,比如先把周一的会挪到周二,再挨个通知所有人改期。五百多个这样的活,办成了才算分——这个分就是任务完成率。

先看脑大的那头。DeepSeek 家的 V3.2,六千多亿参数——参数就当脑容量看,越大越能装。这一头,整本手册全塞给它,任务完成率涨了将近一成。还有一句要紧的:V3.2 是它家上一代,不是最近刷屏的新款,别搞混。它底子本来就厚,还能再涨一截,这手册是真喂到点子上了。这就是大胃王那一类:整桌菜端上来全扫得动。

GPT 家有个开源的叫 gpt-oss,一千多亿参数,算是小脑子。整本手册塞给它,直接被淹掉——记不住,也分不清轻重。可换成另一种喂法:只挑跟当前任务最相关的几条贴士喂给它,任务完成率涨了 16.1 个百分点,花的钱只比什么都不喂多 5%。同样的手册同样的活,喂法一换,一个天上一个地下。看清楚这组数:小脑子的挑着喂涨得最多,整本塞涨得更少、钱还多花了差不多一半。花钱最少的那条路,成绩最好。

还有第三种最让人摸不着头脑。一个叫 GLM-5 的模型,怎么喂都纹丝不动,一分没涨。注意,这不是说它不行,它本来就挺能打,起点就高。可能是已经吃得太饱,可能是这些贴士不对胃口,也可能是压根没认真用。IBM 自己都说原因还没查实。能确定的只有一样:喂料这件事真的没有统一答案。

为什么喂多了反而抓不住重点

最直接的,是 IBM 亲眼看到的:手册一大,小脑子就抓不住重点。不过先说清楚,这是它观察到的现象,不是查实了的原因。再有是别家的官方解释。Anthropic 说过,模型有个注意力预算——注意力就是它分给每行字的精力,总共就那么多,每多塞一个字就分走一点。这道理你其实熟:开会的时候手机一直震,领导讲重点那两句你刚好走神。模型也一样,料贴得越多它越顾不过来,真正关键的那条反而没接住。

还有一层证据,来自 2023 年斯坦福那边的论文。模型读很长的文档,开头和结尾记得牢,夹在中间的信息经常漏。审合同的老手都懂,重点要么放最前头要么放最后头。关键信息埋在中间,它大概率看不见,埋得越深漏得越厉害。两家各说各的,说法却对得上。

最后是 IBM 自己的猜测,它说得挺客气:可能跟上下文窗口大小有关。上下文窗口就是它一次能看在眼里的字数上限,窗口大的更能吞整本,窗口小的适合喂精选。注意这是它自己的猜测,专门的对照实验还没做。它还补了一句:一个模型到底该吃多少,不是简单看参数多少,它原本有多强、结构是啥样、贴士写得好不好都可能有份。所以谁要是跟你说喂料有万能公式,别信,科学家自己都还在研究。

这三件事摆在一起,那张实测表就活了:三种模型三种吃法,没有一个统一答案。这些数都只在这一批模拟任务上测出来的,换一批活未必还这样。这张表不是给研究员的,是给每个用 AI 的人看的。

三条今晚能用的喂料规矩

我以为多喂是在帮它,其实是在抬高它的门槛。料越堆越高它越进不来。不是它笨,是你给的料超出了它接的极限。改喂法这件事,不用花钱也不挑模型,今晚就能试。

先教你一招怎么分清大厨小厨,土办法一认一个准。付费的旗舰档,像 Claude、GPT 的顶配、DeepSeek 这类,约等于大厨,整本菜谱吞得下。免费的、手机里跑的端侧小模型——端侧就是装在你手机上、不联网也能跑的那种——约等于小厨,菜谱一长就手忙脚乱。还有一档响应特别快的轻量档,也按小厨算。记住一条:越是省钱的越按小厨伺候,拿不准的默认按小厨喂,稳。

最要紧的一条,先剪再贴。你手上要是又长又杂的资料,你问的只是其中一小块,比如几十页的报告里找三个数,就别整篇糊过去。先把相关段落挑出来,只贴那几段,跟问题无关的一个字都别留。

再一条,贴完先让它复述。你就问它一句:我刚给你的资料里,最关键的是哪三条?它要是支支吾吾说不全,说明关键信息正卡在那堆料中间,这堆料对它不是帮手是负担,砍掉一半再问一次。它要是能说清,你也顺便确认了它真看进去了。

还有一条,长文档先要摘要再追问。合同、报告、论文几十页的东西,别一口气全塞进去。开口先问它:用三句话把这堆料总结一下。总结利索了再顺着往下问,要哪段问哪段。先要摘要,就是先把地图要过来,再决定往哪走。

真要办的是大事,还有一道保险。先让它把计划说出来,你过一眼,再让它动手,最后让它自己复查一遍。什么时候算大事?动钱、删东西、发消息,这种收不回来的都算。IBM 那批测试里有个更严的算法,同一件事换着法子问,全对才算过,很多模型平均看着行,一换问法就露馅。

有人会问,那大厨呢,也要这么小心吗?大部分人手上用的其实是小厨。大厨可以松一点,整篇喂它也接得住。可你哪知道手边这个到底是真大厨还是装的大厨?评测里的活都不是闹着玩的:约时间、转账、发消息,一步错步步错。越是这种错不起的活,越别偷懒,一律按小厨的喂法来。把最要紧的那一步单独拎出来先问,比一股脑全倒稳得多。

最后把三条规矩收进兜里:先剪再贴,贴完让它复述,长文档先要摘要。判断大厨小厨的土办法也再记一遍:拿不准就当小厨。喂料这件事别贪多,喂对路才算数。你下次往对话框里贴一大段之前,停三秒想想:这堆料,它接得住吗?

常见问题

给 AI 喂资料越多越好吗?

不是,IBM 的实测给出了三种答案:大模型如 DeepSeek V3.2 整本手册塞给它还能涨近一成;小模型如 gpt-oss 会被整本淹掉,只挑相关几条喂反而涨 16.1 个百分点还更省钱;GLM-5 怎么喂都不动。喂多少得看模型接不接得住,没有统一答案。

为什么喂太多资料 AI 反而抓不住重点?

两个解释:Anthropic 说模型有注意力预算,每多塞一个字就分走一点精力,料越多越顾不过来;2023 年斯坦福论文发现模型读长文档时开头结尾记得牢、中间的信息经常漏。IBM 还猜测跟上下文窗口大小有关,但没有定论。

怎么判断该给 AI 喂多少资料?

土办法是看模型档位:Claude、GPT 顶配、DeepSeek 这类付费旗舰约等于大厨,整本喂接得住;免费版、手机端侧小模型、响应特别快的轻量档都按小厨算,越省钱越按小厨伺候。拿不准就默认按小厨喂:先剪再贴、贴完让它复述、长文档先要摘要。

AI 智能体提示词技巧上下文窗口DeepSeekIBM