2026 · 11 · 07 05:47
AI 思考档位怎么自动切?用 JEV 判档的开源插件
思考档位就是让 AI 回答前先在心里想多久,开得越高越慢越贵。我给 Pi 写了个开源插件:每条消息先让 TypeSafe 的 JEV 打分判断这活要多深,再把模型的档位调到对应那一档,模型和上下文都不换。六天 224 条消息里 86% 落在 2 分及以下,只有 14% 需要高档以上。
这期讲了什么
- 思考档位是什么:让 AI 回答之前先在心里想多久,开得越高等得越久、花的钱也越多
- 大部分人的默认做法是直接开最高,觉得保险;实际对简单活是白等白花
- 我写了个开源插件 pi-autothink(MIT,单文件):每条消息进来先让 TypeSafe 的 JEV 打 0–5 分,再把当前模型的档位调到对应那一档,模型不换、上下文不变
- 两次实测:同一条命令只换一句提示,「改个错别字」判 0.59 分落到低档,「重构鉴权、迁移旧数据」判 3.99 分跳到更高档
- 六天的账:21 个会话 / 224 条消息 / 214 条由 JEV 判档 / 平均 1.48 分 / 86% 落在 2 分及以下 / 只有 14% 需要高档以上
- 它也会错:224 条里 80 条(36%)最后落下的档跟判出来的不一样,多数是模型压根没有那一档
- 它只在开头判一次:一条消息判完,后面翻多少文件、调多少工具,档都不变
- 装法:pi install npm:pi-autothink;门槛是 Pi 1.4 以上、Node 22.19 以上、一个 TypeSafe 账号
- 没测的三件事:国内直连能不能打开 console.typesafe.ai、注册要不要绑卡、有没有免费额度
相关链接
- 仓库 github.com/loofare/pi-autothink(MIT)
- JEV 定价 https://typesafe.ai/pricing:每百万输入 token 0.042 美元,输出免费
- JEV 快速开始 https://docs.typesafe.ai/introduction/quickstart
专题 AI 编程