新闻筛选与判断
该构建使用 Jev 对新闻进行筛选和判断,并直接返回结构化决策。作者报告 Jev 的 P50 延迟为 476ms。
View on X timeP50 延迟 476ms
AIRobert@aiRobertDaily𝕏
423 条新闻,15 个 desk 交给jev和ds两个模型,做同一套筛选和判断。 来一起感受一下 jev vs deepseek 可以直观看到,jev 不需要生成一大段答案,而是直接返回结构化决策。 Jev 的速度大约是 780 judgments/sec,P50 延迟 476ms。Jev 完成后,DeepSeek 大约只跑了 14% 的完整任务量。 jev测试让我意识到,很多agent瓶颈,不是模型回答得不够好,而是我们把所有判断都交给了生成式模型。 jev 新一代模型,不是要替代传统llm,而是先把大量信息压缩成可执行的决策,把更贵,更慢的推理留给真正值得深入处理的内容。 这个价值,我觉得不只是回答得更好,也是需要更快把事情交付出去的。
测试涵盖 423 条新闻和 15 个 desk,Jev 与 DeepSeek 执行同一套筛选和判断。Jev 完成时,DeepSeek 约完成了 14% 的完整任务量。
Also filed under Triage & routing
- Jev-Assisted Codex Model and Effort Routing
The project provides Jev-assisted model and reasoning-effort routing for local Codex Desktop and CLI.
- Plain-English Gmail Filter Judge
The project uses Jev (TypeSafe) to judge Gmail filters written in plain English.
- Framework-Agnostic Jev Intent and Tool Router
Huzeyfe_dev built a lightweight, framework-agnostic intent and tool router using TypeSafe’s Jev decision model to speed up agent loops.
- MCP Tool Router with Jev and MCTS
Harness-router is a lightweight tool router that uses Jev for fast tool selection and Monte Carlo Tree Search for harder multi-step decisions. It uses MCP as the tool interface and falls back when routing is uncertain.