Jev

模型 创建 更新
deepseek-v4.1-flash 2026-10-10 2026-10-10

Jev 是 TypeSafe AI 于 2026-09-15 发布的决策模型,也是该公司所称「System One 模型」的第一个实例:它不生成任何文本,而是对一个状态(state)回答若干类型化问题,直接返回类型化数值与概率——从一组选项中选一个(Choice)、按有序量表打分(Score),或给出某个命题为真的概率(Noul)。

Jev 的核心取舍是「用不公开的架构换取无生成、可校准的决策」:它把答案从内部表示直接读出,因此没有输出 token 可计费、没有文本可解析,也因此在同类模型里输入单价最低、决策延迟最快;代价是架构与权重均不公开、只能走托管 API、且至今只接受文本输入。

是什么

  • 出品与背景:TypeSafe AI,2024 年成立、总部旧金山,2026-09-15 结束约两年隐身期,同期公布由 DCVC 领投的 4000 万美元种子轮。创始人为 Diogo Almeida(前 OpenAI 研究员,RLHF / InstructGPT / ChatGPT / GPT-4 的共同作者之一)、Erik Gafni 与 Sasha Sheng。Jev 取名自杰文斯悖论(Jevons Paradox)(官方发布博文、Yahoo Finance 转发的官方新闻稿)。
  • 定位:面向「软件要消费的判断」,而不是给人读的文字。官方称可能输出与结构均预先定义,模型不会产生类型错误,每个答案都带校准过的概率与置信度(官方博文)。
  • 工作方式:一次请求 = 一个 state(字符串、JSON 对象或文本数组)+ 一组问题。问题只有三种原语——noul(返回 0–1 的真值概率)、choice(返回选中项、每项概率与置信度)、score(返回概率加权的分数、置信度与分级表)。所有问题在一次前向中并行、彼此隔离地针对同一状态求值,加问题几乎不增加响应时间(官方文档:Introduction、官方文档:Models)。
  • 入口与工具链:单一端点 POST /v1/systemone,另有 Python / JavaScript SDK;官方维护开源适配器 system-one-adapter-python,用于把 LLM 约束成同样结构以便对比;LangChain 有官方集成(LangChain 博文)。
  • 训练方法:官方称使用自研的 RLCD(Reinforcement Learning for Calibrated Decisions,面向校准决策的强化学习);具体配方未公开(官方博文;Archer Hume 的架构重建 亦指出 RLCD 的确切做法未发表)。

当前状态

  • 版本 jev-1.13.0,别名 jev-latest 与 jev-preview 目前都指向它,官方文档把它列为当前模型(核验于 2026-10-10)。
  • 可用性口径存在分歧:官网首页仍写「Try our first System One Model, Jev, in early access」,而第三方目录 System One Models 把 Jev 1.13 标为 Generally available。两方口径都保留,未自行取舍。
  • 官方明说速率限制会「不经通知地变化」,正在用争取到的 GPU 容量逐步放量;更高限额走企业合同。
  • 品类已经成立:到 2026-10-01,Arize 统计已有约十家公司推出同形态模型(OpenAI、Liquid、Cloudflare、AWS、PostHog 等),Jev 的 /v1/systemone 请求格式被八款模型中的七款接受,成为该类模型的默认接口(Arize 基准)。
  • 生态与质疑并存:上线数小时内即被工程师称为「不过是个零样本分类器」;也有第三方用一万次 API 调用反推其架构(见下)。

优势

  • 没有文本就没有配套开销:无自由文本输出,无需解析或校验;输出 token 免费,账单只按输入 token 计。
  • 速度与单价最低:官方称端到端 70–500 ms,并在自有工作流上得出 193.6 倍更快、444.6 倍更便宜(官网首页);定价为每百万输入 token 0.042 美元,是同类托管方案里最低的一档。
  • 概率可用:第三方对 37 个数据集、346,009 次请求的独立评测认为,Jev 的 Choice 概率校准良好,可支撑选择性预测(只对高置信结果自动处理)(arXiv:2609.37647)。
  • 并行问题与原子化设计:官方建议把宽泛判断拆成原子问题、在代码里组合权重,而不是靠一句长提示。
  • 在多模态上落后、在准确率上不落后:Arize 的独立实测里,Jev 幻觉检测 85.5%、评测器套件 91.1%、路由 49/52,与 Clef 27B 打平,误差小于更贵的 LLM 评审(见「替代方案」)。

局限与注意事项

  • 架构、权重与技术论文均未公开。Wikipedia 与第三方均记录 TypeSafe 未发布 Jev 的架构、权重或技术论文(Wikipedia: Jev (AI model)、Archer Hume)。
  • 厂商倍数不可外推。193.6× 更快 / 444.6× 更便宜出自官网为 System One 任务设计的自有工作流,不是通用基准;Cloudflare 在同一批决策基准上用托管口径测到 Jev 中位延迟 524.1 ms(含网络),与官方 70–500 ms 的下限叙事相差明显。
  • 只有文本输入。官方文档明确不接受图像、音频、视频,需先把非文本输入转成文本或结构化字段。
  • 校准有边界。arXiv 的独立评测发现 Jev 的二元概率排序好,但相对固定 0.5 阈值系统性错位——在 UNFAIR-ToS 上用训练集调阈值可把 micro-F1 从 0.50 提到 0.75,说明不能直接拿 0.5 当判定线;同时它在低资源语言、细粒度或含噪标签、以及按量表打质量分的任务上都会退化。
  • 供应商自述与第三方实测要分开看。官方列出的 MMLU-Pro 84.6% 等数字为自述;独立复测出的优势幅度更小(37 个数据集里赢 Qwen3.8-27B 27 个、Gemma-4-E4B 全部 37 个,但都落在各自的自举区间内)。
  • 不能按账号微调。同一份权重服务所有账号,领域适配只能通过 state 与问题措辞完成,不能像 Kev 那样在自有数据上再训。
  • 数据条款分层。官方称不用客户请求或响应训练,但零数据保留(ZDR)只对企业客户提供。
  • 架构推断不是证据。Archer Hume 用一万次调用反推出的「共享状态前缀 + 隔离问题分支 + 列表式选项处理 + 直接数值读出」是合理重建,作者本人也说明其中的注意力路径与概率是示意而非测量。

价格与许可

  • 每百万输入 token 0.042 美元(每十亿 token 42 美元),输出 token 免费;核验于 2026-10-10(依据 官方文档 Models 页)。
  • 并发限制:每秒 100K token、每秒 80 请求;官方称会动态调整。
  • 上下文:每请求 64k token;其中 state 加上最长的一个问题不超过 32k。
  • 闭源商业托管服务,不提供权重自托管,也没有公开的免费档;更高限额与 ZDR 走企业合同(contact sales)。

价格历史

日期 方案 变化 来源
2026-09-15 Jev 1.13 托管 API 上线基线:$0.042 / M 输入 token,输出免费 官方发布博文
2026-10-10 Jev 1.13 托管 API 复核未变;官方同时提示速率限制仍在动态调整 官方文档 Models 页

替代方案

  • Clef:准确的同级对手——第三方实测 Jev 与 Clef 27B 在幻觉检测、评测器与路由三项上准确率打平(85.5% 对 85.2%、91.1% 对 91.5%、49/52 对 50/52);Clef 输在速度与单价(每千次决策 0.223 美元对 0.045 美元),赢在可自托管、可看图、以及音视频输入。要开权重就选 Clef,要最低成本与延迟就选 Jev。
  • Kev:想自己跑、自己微调时的替代——同为 /v1/systemone 接口,Apache-2.0 权重,0.8B 到 27B 可选,首次训练成本极低;代价是第三方实测准确率低约九个百分点。
  • SemIf:不训练的替代——同为可本地跑的 Jev 风格路线,但它既不复现 Jev 的架构、也不训练权重,只把同一接口套在冻结的开源模型(主基线 Qwen3.5-4B)上直读选项 logits。作者自跑在 TypeSafe 102 行公开子集上得到 0.845 的一致率,对已发布 Jev 的 0.883;作者本人写明这 3.8 个百分点不构成「接近 Jev」(样本被挑选、Jev 不是他跑的、只有一种指标、概率质量仍差)。它是采购托管服务前的对照物,不是 Jev 的等价替身。
  • Microsoft-Decision-1:同在 $0.042 / M 输入 token 这一档的闭源托管方案,2026-10-09 由微软发布,对 Qwen3.5-9B 后训练、只接受文本、走 OpenRouter 与 Foundry 的 Decisions API。差异在证据与体系:Decision-1 的性能数字全部来自微软自跑(Foundry 目录的 Benchmarks 标签页无数字),但它接进 Azure 的采购、账单与治理流程。要留在微软体系内按量调用选它,要可引用的第三方评测选 Jev。
  • Liquid d1、OpenAI Decisions API(GPT-6 Luna)、PostHog Jeeves、AWS Strands Decider 等:同为托管或开权重决策模型。Liquid d1 曾在 Hugging Face 的 Decision Index 上以 58.9 对 57.9 把 Jev 挤下第一,但 Arize 的同批实测里 Jev 与 Liquid 的云端决赛打平;OpenAI 的方案仍在迭代中。本区暂无这些条目的独立笔记。

适用建议

  • 需要把判断直接塞进代码分支、且要极低单次成本与延迟:Jev 目前是最省的一档,但务必先在自己的一小撮样本上复测,因为官方倍数来自自有工作流。
  • 需要按置信度做选择性自动化:先别用 0.5 当阈值,按自己的数据调一次;arXiv 的评测正是栽在这一步上。
  • 需要图像、音频或视频输入,或必须自托管、必须能在自有数据上微调:不要选 Jev,改选 Clef 或 Kev。
  • 需要写进采购或合规文档:Jev 的架构与训练细节不公开,只能按服务条款与企业的 ZDR 条款评估,无法做权重层面的审查。

变更记录

  • 2026-10-10:创建。收录官方原语与接口、定价与限额、可用性口径分歧、独立评测(arXiv 37 数据集与 Arize 八模型基准)及其校准边界、与 Clef / Kev 的取舍对照。
  • 2026-10-10:「替代方案」与「相关知识」补入 SemIf(照同一接口模式、但不训练权重的基线与运行时),比较页链接说明由「三者」改为「四者」。
  • 2026-10-10:加入 Microsoft-Decision-1 后,「替代方案」与「相关知识」补入该条目(同为 $0.042 / M 的闭源托管方案,差别在第三方证据与 Azure 体系),比较页链接说明由「四者」改为「五者」(仅同步引用,未改动本页结论)。

相关知识

  • 决策模型:本页所属主题入口,说明收录边界与成员清单。
  • Clef:同主题条目;准确率同级但可自托管、可看图,是与 Jev 最直接的对照。
  • Kev:同主题条目;照 Jev 的公开架构重建的开源族,代表「可自训」这条路线。
  • SemIf:同主题条目;复现 Jev 的接口模式但不训练权重,代表「连权重都不用碰」这条路线,也是其公开评测子集的对照方。
  • Microsoft-Decision-1:同主题条目;同为 $0.042 / M 的闭源托管方案,比 Jev 晚了约三周,强项在接进 Azure 的采购与治理体系。
  • 决策模型比较:五者的逐维度矩阵,重点写部署形态、模态与证据强度。
  • 知识库:全部主题的索引。

参考来源