前言¶
在 DeepSeek Harness 的开发中,Agent 经常会对每一个轮次发送相同的请求。无论是简单的变量重命名,还是复杂的竞态条件调试,都会被送到同一个模型和同等的推理努力度。这种统一处理的方式会导致不必要的成本浪费。
dsh-plugin-jev-router 通过引入一个 Jev 选择问题,为每一轮对话决策具体的模型和推理努力度,从而解决这一问题。
这是什么¶
这是一个由 YYTbit 维护的 DeepSeek Harness 插件。它负责在每一轮对话中,根据 Jev 的决策结果,动态选择最合适的模型和推理努力度。
核心功能¶
该插件提供以下能力:
- 按轮次路由:根据每轮对话的具体内容,动态选择模型和推理努力度。
- Jev 决策:每一轮通过一个 Jev 选择问题来决定路由目标。
- 升级模式:针对困难轮次(如堆栈跟踪、错误、测试失败)的升级模式。
- 快速路径:针对简单操作(只读动词)的快速路径。
- 粘性保持:连续轮次保持相同的路由决策。
- 收据记录:生成收据以便回放和分析,无需重新调用模型。
安装与启用¶
安装该插件需要执行以下命令:
dsh plugin --profile your-profile add dsh-plugin-jev-router
安装后,需要配置 Jev 的 API Key 和 URL:
export JEV_API_KEY=...
export JEV_API_URL=https://api.typesafe.ai/v1/systemone
典型用法¶
在配置文件中,通过 YAML 定义候选列表。例如:
config:
candidates:
- { model: deepseek-v4-fast, effort: low, costPerMTokIn: 0.07, costPerMTokOut: 0.14 }
- { model: deepseek-reasoner, effort: high, costPerMTokIn: 0.55, costPerMTokOut: 2.19 }
defaultCandidate: deepseek-reasoner@high
minConfidence: 0.5
stickyTurns: 1
在测试或调试 Jev 路由路径时,可以将 stickyTurns 设置为 0。
适用场景与注意¶
- 该插件依赖 Jev API Key 和端点才能正常工作。
- 收据仅存储摘要哈希和字节大小,不存储完整文本,适合在不暴露对话内容的情况下进行日志共享和分析。
- 插件使用 TypeScript 编写,许可证为 MIT。
- 由于插件以当前 dsh 进程权限运行,安装前应检查源码与许可证。
结语¶
该插件通过 Jev 的单次选择问题实现按轮次的模型路由,旨在优化成本并提高推理效率。更多配置细节和源码,请参考插件目录页或 GitHub 仓库。