TypeSafe Jev模型:快速System One选择器
介绍TypeSafe的Jev模型,它是一种不进行长对话或深度思考的快速模型,仅从给定选项中选择,并描述了其规则层过滤合法动作的应用设置。
THE JEV GUIDE · CURATED EDITION
TypeSafe Jev 的发布、原理、演示与社区实践,按主题整理。每条内容都可回到 X 原帖核对。
人工精选 · 非全量收录 · 手动更新
Sponsors
这些产品赞助了本目录。 把你的产品放上来
介绍TypeSafe的Jev模型,它是一种不进行长对话或深度思考的快速模型,仅从给定选项中选择,并描述了其规则层过滤合法动作的应用设置。
Jev模型不生成文本,而是提供类型化响应和概率,用于自动化软件决策和数据分类。输入价格0.042美元,输出免费。
用分诊护士比喻,说明Jev决定请求去向,LLM仅在必要时作为专家介入,而非最终分析师。
帖子说明 Jev 接收当前状态和预先确定答案的问题,只在这些答案上返回概率;标签由应用定义,模型不会生成新标签。
帖子探讨了Jev作为决策模型的工作方式:大多数AI系统让单个大模型完成排序、路由、判断、推理和写作,而Jev指南提出分工——LLM负责生成,Jev负责决定。内容还解释了决策模型在系统中所处的位置,并指出指南尚未证明的部分。
信息流里每 16 张、每一页都有一张。每周 $50,任意一周可停。
通过 Ollama 0.35 在本地运行 Jev 决策模型,输入一段文本即可获得团队分配、退款决策和紧急程度等建议。每个输出附带概率,但分数(如 0.815)是概率加权平均值,需与置信度区分,避免误读。
作者探讨了如何通过开源语言模型与token概率来模拟Jev,解析其工作原理,并展示了基于DiffusionGemma的演示,已部署在Cloudflare Workers AI上。 链接
Jev在请求发送到大模型前进行快速检查,以极低成本在不到一秒内将任务分配给合适的模型。
TypeSafe 构建的 Jev 1.13 接受上下文和类型化问题,返回概率,无需清理段落或调整 JSON 输出。
Jev在笔记本Jarvis环境中路由请求,读取百万token仅需4.2美分,输出免费,只从用户提供的列表中选择答案。
在人工复核错误率上限为1%的条件下,Jev 允许93%的答案跳过人工检查,OpenAI 为66%,大型通用模型虽可达98%,但速度慢约10倍。
hev mind 撰文认为,将一半基准保持私有,让排名反映真实技能而非记忆的答案,是正确的决定。 链接
在 GitHub 点 Star,支持我们继续收集和整理 Jev 案例。