Jev
一款主打高性价比的前沿AI推理模型,声称相比现有主流前沿模型推理成本降低40-400倍、速度提升20-200倍,面向企业规模化部署场景优化
核心事实
时间轴 (近 90 天)
Jev 适合高并发、低预算、追求速度、任务不复杂的决策场景
请求路由是 Jev 的代表性用法:先判断请求为 trivial/medium/complex,再路由到 GPT-4o mini、更强模型或拒绝
Jev 可通过 Python SDK(typesafe-sdk)调用,核心接口是 client.system_one,传入 state、question、类型和 instructions
社区网站 Jevable.com 收录了基于 Jev 的创意项目,如马里奥、Codenames 和 Hacker News 帖子过滤器
Jev 的核心能力是给出分类、概率和快速决策,能在毫秒级别返回结果
使用 Jev 需申请 waiting list,获批后可进入 Playground
在安全护栏场景中,提示词注入攻击被 Jev 判定有86%的不安全概率,超过设定的65%阈值后中止
Jev 是一种专注于瞬时决策的「System One」模型,不能生成文本,不是一个 LLM
博主实测 Jev 判断「热狗是不是三明治」时,汉堡得到94%为真,寿司4%,苹果1%,热狗约82%,整个判断耗时约80毫秒
Jev 并行计算所有可能答案的概率,因此速度极快,但必须有一组固定的候选答案
还有 40 条时间轴事件
全部知识事实 (20)
Jev是一类被称为'系统一模型'的前端模型,快速、便宜、结构化,专门用于决策,不生成文本而是在预设选项集合中返回概率打分
75%已验证决策型模型擅长分类、路由、判断这类结构化任务,而非长篇文本生成
75%已验证Jev 只对输入 token 收费,输出完全免费
65%已验证Jev 的设计把判断与执行解耦,让主模型专注在需要生成能力的任务上
65%已验证Jev提供三种问题类型:选择(Select)、评分(Score)、空值/布尔(Null/Bool),每个返回都带有置信度值
65%待验证本文所依据的原始素材为一条Twitter上的简短分享
70%待验证Jev声称使用RLCD训练方法
60%待验证Jev的内部架构、训练配置和模型规模均未公开
60%待验证Jev被定位为TypeSafe AI的'System One'前沿模型,主打软件系统中需要快速、结构化判断的场景
60%待验证官方宣称Jev相比可比的LLM工作流速度快约20到200倍、成本低约40到400倍,且输出token完全免费
60%待验证Jev更接近判别式模型而非生成式模型,本质上是一个多类别概率分类器,类似BERT系列而非GPT系列
60%待验证Jev的响应速度通常在200到300毫秒内返回结果
60%待验证Jev由曾参与ChatGPT研发的核心人物开发
60%待验证限制模型输出选项能阻止编造新类别,但不能保证选出的类别有用或正确;所谓零幻觉只是约束了输出空间
60%待验证Jev 的设计借用心理学中的 System 1 概念,充当流程中的快速直觉判断角色
60%待验证Jev 是一个专注于快速、结构化判断的 AI Agent,只接收信息并返回判断,不生成对话或帮助编写应用
60%待验证Jev 的响应时间为 70-500ms
60%待验证传统基准测试往往关注准确率和推理速度,但任务完成率和收敛稳定性在实际工程场景中同样重要甚至更为关键
60%待验证Jev 是一种专注于瞬时决策的「System One」模型,不能生成文本,不是一个 LLM
50%待验证Jev 的核心能力是给出分类、概率和快速决策,能在毫秒级别返回结果
50%