THE JEV GUIDE · CURATED EDITION

工作原理.

TypeSafe Jev 的发布、原理、演示与社区实践,按主题整理。每条内容都可回到 X 原帖核对。

人工精选 · 非全量收录 · 手动更新

5419条已收录内容
2789条原帖视频

TypeSafe Jev模型:快速System One选择器

介绍TypeSafe的Jev模型,它是一种不进行长对话或深度思考的快速模型,仅从给定选项中选择,并描述了其规则层过滤合法动作的应用设置。

TypeSafe Jev模型:快速System One选择器 · 原帖图片 1

Jev:不生成文本的AI决策模型

Jev模型不生成文本,而是提供类型化响应和概率,用于自动化软件决策和数据分类。输入价格0.042美元,输出免费。

Jev:不生成文本的AI决策模型 · 原帖图片 1

Jev 基于状态与预设问题输出概率

帖子说明 Jev 接收当前状态和预先确定答案的问题,只在这些答案上返回概率;标签由应用定义,模型不会生成新标签。

Jev 基于状态与预设问题输出概率 · 原帖图片 1

Jev 决策模型:LLM 生成,Jev 决定

帖子探讨了Jev作为决策模型的工作方式:大多数AI系统让单个大模型完成排序、路由、判断、推理和写作,而Jev指南提出分工——LLM负责生成,Jev负责决定。内容还解释了决策模型在系统中所处的位置,并指出指南尚未证明的部分。

Jev 决策模型:LLM 生成,Jev 决定 · 原帖图片 1

Ollama 0.35 可运行 Jev 决策模型

通过 Ollama 0.35 在本地运行 Jev 决策模型,输入一段文本即可获得团队分配、退款决策和紧急程度等建议。每个输出附带概率,但分数(如 0.815)是概率加权平均值,需与置信度区分,避免误读。

Ollama 0.35 可运行 Jev 决策模型的原帖视频截图

用开源语言模型与Token概率模拟Jev

作者探讨了如何通过开源语言模型与token概率来模拟Jev,解析其工作原理,并展示了基于DiffusionGemma的演示,已部署在Cloudflare Workers AI上。 链接

用开源语言模型与Token概率模拟Jev · 原帖图片 1

Jev:快速请求路由

Jev在请求发送到大模型前进行快速检查,以极低成本在不到一秒内将任务分配给合适的模型。

Jev:快速请求路由的原帖视频截图

Jev AI:低成本路由与筛选

Jev在笔记本Jarvis环境中路由请求,读取百万token仅需4.2美分,输出免费,只从用户提供的列表中选择答案。

Jev 93% 可跳过人工核验

在人工复核错误率上限为1%的条件下,Jev 允许93%的答案跳过人工检查,OpenAI 为66%,大型通用模型虽可达98%,但速度慢约10倍。

Jev 93% 可跳过人工核验 · 原帖图片 1