前言¶
在使用 DeepSeek Harness(DSH)进行智能体开发时,管理模型的推理精力(reasoning effort)和模型切换是一个具体的技术痛点。手动调整每一步的精力设置效率低下,且容易出错。dsh-model-router 是为此设计的一个插件,它将模型池管理与推理精力路由结合在一起,旨在自动化这一过程。
功能概述¶
该插件是 DeepSeek Harness 的一个插件,由 Neptune810 维护。它的核心功能是处理 Flash-only 的推理精力路由,允许为每一步设置推理精力,同时保持模型池不变。
核心功能包括:
* Flash-only 推理精力路由:设置每一步的推理精力,模型不发生变化。
* 模型池管理:支持成本等级(便宜/强力)和视觉标签。
* 授权范围:支持完整(模型+精力)、精力(仅精力)、模型(仅模型)三种控制模式。
* 任务预设:支持关键词匹配和每模型权重配置。
* 视觉路由:支持图像步骤的路由。
* 语义任务分类器:可选的语义任务分类功能。
* 计划继承:新对话继承上一次的计划。
* Composer UI 集成:与 DSH 的 Composer 界面集成。
使用示例¶
按难度路由步骤¶
插件根据任务难度自动设置推理精力:
* trivial(简单):意图明确、步骤短,精力设为 low。
* standard(标准):普通短请求,精力设为 low。
* engineering(工程):包含代码/差异/XML 结构或工具循环,精力设为 high。
* hard(困难):密集工程简报或任务内部失败,精力设为 high 或 max(需开启 allowMax)。
配置模型池¶
在 YAML 配置中定义模型池、成本等级和视觉标签:
pool:
- { id: deepseek-official/deepseek-flash, cost: 1, tier: cheap }
- { id: deepseek-official/deepseek-v4-pro, cost: 8, tier: strong, maxPerTask: 3 }
- { id: deepseek-official/deepseek-v4-flash-vision-exp, cost: 1, tags: [vision] }
- { id: vendor-x/writer-pro, cost: 20, weights: { 小说续写: 95 } }
配置任务预设¶
定义任务类型,使用关键词匹配和特定模型权重:
presets:
小说续写:
match: ["续写", "小说", "文风", "/chapter\\s+\\d+/i"]
weights: { "vendor-x/writer-pro": 95, "deepseek-official/deepseek-v4-pro": 60 }
代码重构:
match: ["重构", "refactor", "架构"]
weights: { "deepseek-official/deepseek-v4-pro": 90 }
注意事项¶
- 思考模式必须开启:DeepSeek 拒绝任何包含已关闭思考工具调用的请求。因此,该插件始终保持思考开启。
- 默认 UI 不透明:Composer UI 面板默认是不透明的。
- 源码更改需重启:插件注册到 DSH 的已发货座位中。更改源代码需要完全重启
dsh web或桌面应用。 - 版本回滚:版本 0.10.0 曾因座位渲染问题被回滚。
结尾¶
dsh-model-router 适合需要在 DSH 中精细化控制模型推理精力的场景。通过模型池和任务预设,可以自动化处理不同复杂度的步骤。更多细节和源码请参考项目主页。