Jev 是什么?这个 AI 凭什么便宜几百倍
Jev 是什么?它便宜几百倍不是因为话少,而是压根不写字:先把可能的答案定死成「答案空间」,再把所有候选的概率分布一次并行算完,像涂答题卡而不是写申论。这期讲清 Jev 的三种用法、价格账本,以及「零幻觉」的真实含义和短板。
这期讲了什么
- 「话少所以便宜」不成立:普通大模型回一个字也是逐 token 串行算出来的,每蹦一个字都要把前面重算一遍,动笔前的草稿照样算钱
- Jev 的做法相反:先把可能的答案定死(官方叫「答案空间」),所有候选的概率分布一次并行算完——像涂答题卡,不是写申论
- Jev 只干三种活:判是非(Noul)、从候选里挑一个(Choice)、打分(Score);回的不是文字,是带概率的选项
- 概率要诚实:用 RLCD 方法训练,目标是置信度越高准确率真的越高;「零幻觉」指输出永远落在答案表里、格式错误不可能发生
- 短板与账本:不会数数、不会算数、比日期不可靠,候选最多 255 个且还在排队试用;官方价输入每百万 token 四美分出头、输出免费,定位是「模型给概率,代码给策略」
文字稿
为什么「话少」省不了钱
Jev 这个 AI 最近火得不行。刷到的人都在传同一件事:便宜,便宜到有点离谱。多数人看到的第一反应都差不多——话少嘛,让 AI 少回几个字,当然省钱。
做 Jev 的公司叫 TypeSafe,他们把一张对比表直接挂上了官网,拿 Jev 跟普通大模型对着比,自家评测站还有一张传疯了的散点图。可「话少所以便宜」这个解释,真的站得住吗?
先泼一盆冷水。你让普通大模型只回一个字,省下的也只是那一个字的功夫。这种模型写字,是一个字一个字往外蹦的,每蹦一个字,都得把前面写过的重新算一遍,行话叫逐 token 串行,token 就是模型眼里的字碎片。为了答得准,很多模型动笔前还要在心里打一长串草稿,草稿照样算钱。字少,不等于算得少。
你可能会说,那我让 AI 只回 JSON,总行了吧。还是不行。JSON 也得一个字符一个字符往外写,写错一个逗号,程序照样崩。写过这种代码的人,都懂这种痛。
涂答题卡代替写申论:答案空间一次算完
Jev 换的是另一条路。用它之前,你得先把可能的答案全部列出来——是或否,或者在几个候选里挑一个。这个事先定死的范围,官方叫答案空间。范围一旦定死,Jev 就不用写字了:它把所有候选的概率分布一次算完,全部并行,同时出结果。
打个比方。普通大模型答题,像考生在考场上写申论,一个字一个字往外憋;Jev 答题,像涂答题卡——可选答案就那几个格子,机器一眼全扫完。涂卡快,从来不是因为字少。
具体到用法,Jev 只干三种活。一种是判是非,行不行、对不对,回一个 0 到 1 之间的概率,官方管这个叫 Noul。一种是从你给的候选里挑一个,每个候选各带一个概率,叫 Choice。还有一种是打分,叫 Score。注意,回的不是文字,是带概率的选项。
光给概率还不够,概率得诚实。普通大模型你问它有几分把握,它多半往高了报,还报得前后不一。Jev 训练用的是一套叫 RLCD 的方法,目标就是让概率说真话——官方的说法是,置信度越高,准确率就真的越高。
零幻觉的真实含义、短板和价格
官方宣传里最唬人的词是零幻觉。准确意思是,Jev 的输出永远落在那张定好的答案表里,格式错误数学上不可能发生。但判断照样会错——官方自己列了短板,不会数数,不会算数,比日期也不可靠。而且 Jev 还在排队试用,候选最多放 255 个。
官方自己挂出来的账:输入每百万 token 四美分出头,输出干脆免费,一次查询几十到几百毫秒。所以 Jev 的定位,官方说得最明白——模型给概率,代码给策略。概率高了怎么办,低了找谁兜底,由你的程序说了算,不是概率高就自动执行。Jev 便宜不是因为话少,是它压根不写字——答案空间事先定死,所有概率一次算完。
以后再有 AI 产品喊几百倍,我都去翻它底层是改了生成方式还是只改了话术。
常见问题
Jev 是什么?
Jev 是 TypeSafe 公司做的 AI 模型,不生成文字,只输出带概率的选项:判是非(Noul)、从候选里挑一个(Choice)、打分(Score)。用之前要把可能的答案事先列成「答案空间」,然后所有候选一次并行算完,官方价输入每百万 token 四美分出头、输出免费。
Jev 为什么比普通大模型便宜几百倍?
不是因为话少。普通大模型逐 token 串行生成,写错一个字符都可能让程序崩,动笔前的草稿也算钱。Jev 把答案空间事先定死,所有候选的概率分布一次并行算完——像涂答题卡代替写申论,快在并行,不在字少。
Jev 的零幻觉是什么意思,有什么局限?
「零幻觉」指 Jev 的输出永远落在定好的答案表里,格式错误数学上不可能发生,但判断照样会错。官方自列短板:不会数数、不会算数、比日期不可靠,候选最多 255 个,且还在排队试用。返回的是带概率的选项,怎么用由你的代码决定,不是概率高就自动执行。