dsh-plugin-jev-router: Per-Turn Model Routing Plugin for DeepSeek Harness

前言

在 DeepSeek Harness 的开发中,Agent 经常会对每一个轮次发送相同的请求。无论是简单的变量重命名,还是复杂的竞态条件调试,都会被送到同一个模型和同等的推理努力度。这种统一处理的方式会导致不必要的成本浪费。

dsh-plugin-jev-router 通过引入一个 Jev 选择问题,为每一轮对话决策具体的模型和推理努力度,从而解决这一问题。

这是什么

这是一个由 YYTbit 维护的 DeepSeek Harness 插件。它负责在每一轮对话中,根据 Jev 的决策结果,动态选择最合适的模型和推理努力度。

核心功能

该插件提供以下能力:

  • 按轮次路由:根据每轮对话的具体内容,动态选择模型和推理努力度。
  • Jev 决策:每一轮通过一个 Jev 选择问题来决定路由目标。
  • 升级模式:针对困难轮次(如堆栈跟踪、错误、测试失败)的升级模式。
  • 快速路径:针对简单操作(只读动词)的快速路径。
  • 粘性保持:连续轮次保持相同的路由决策。
  • 收据记录:生成收据以便回放和分析,无需重新调用模型。

安装与启用

安装该插件需要执行以下命令:

dsh plugin --profile your-profile add dsh-plugin-jev-router

安装后,需要配置 Jev 的 API Key 和 URL:

export JEV_API_KEY=...
export JEV_API_URL=https://api.typesafe.ai/v1/systemone

典型用法

在配置文件中,通过 YAML 定义候选列表。例如:

config:
  candidates:
    - { model: deepseek-v4-fast, effort: low, costPerMTokIn: 0.07, costPerMTokOut: 0.14 }
    - { model: deepseek-reasoner, effort: high, costPerMTokIn: 0.55, costPerMTokOut: 2.19 }
  defaultCandidate: deepseek-reasoner@high
  minConfidence: 0.5
  stickyTurns: 1

在测试或调试 Jev 路由路径时,可以将 stickyTurns 设置为 0。

适用场景与注意

  • 该插件依赖 Jev API Key 和端点才能正常工作。
  • 收据仅存储摘要哈希和字节大小,不存储完整文本,适合在不暴露对话内容的情况下进行日志共享和分析。
  • 插件使用 TypeScript 编写,许可证为 MIT。
  • 由于插件以当前 dsh 进程权限运行,安装前应检查源码与许可证。

结语

该插件通过 Jev 的单次选择问题实现按轮次的模型路由,旨在优化成本并提高推理效率。更多配置细节和源码,请参考插件目录页或 GitHub 仓库。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye