dsh-model-router:给 DeepSeek Harness 的模型路由与成本面板

前言

在 DeepSeek Harness(dsh)的会话里,简单查询和复杂任务通常会混在一起。如果所有请求都走主模型,成本会持续上升;如果直接全部切到便宜模型,又可能影响需要上下文、视觉或推理能力的请求。

dsh-model-router 就是针对这个问题做的插件:它在便宜模型和强模型之间做启发式路由,在瞬时失败时自动回退,并在 composer dock 中提供一个当前会话的 token、cache 和 cost 面板。

这是什么

tianji-qingtian/dsh-model-router 是面向 DeepSeek Harness 的插件,定位是 model router 与 cost optimizer。它由 tianji-qingtian 维护,许可证为 MIT

它主要处理三件事:

  • 把简单请求路由到便宜模型;
  • 把复杂请求保留给主模型;
  • 在会话中展示 token、cache 和 cost 信息。

需要注意:DeepSeek Harness 当前处于 developer preview,文档提示需要预期 compatibility-breaking changes。插件要求 dsh CLI 在 PATH 上,并且 harness 0.1.1-rc.2 或更高版本。

核心功能

下面按插件列出的能力说明。

Cheap-model judge routing

插件会用便宜模型判断请求是否属于简单类别。明显复杂的工作会直接交给主模型;其余请求进入快速回答判断。

Ask before quick-answering

在自动模式下,命中简单请求后,插件会先让用户选择:用便宜模型快速回答,或交给主模型。选择主模型时,走正常流程。

Direct quick-answer

当用户选择快速回答时,请求由便宜模型直接生成,主模型不参与该次请求。

Vision-aware routing

消息中带有图片块时,插件会路由到可用的视觉模型。如果当前环境没有可用视觉模型,则回退到主模型。

Model picker respected

插件不会覆盖用户在 composer picker 或 selectModel 中选择的模型。

Auto / off toggle

可以用 /router auto/router off 切换 quick-answering,也可以通过 route_model tool 做同样操作。

Automatic fallback

遇到瞬时失败时,插件会把当前请求降级到便宜模型。

Real usage metering

插件会汇总当前会话的 token 使用、cache 命中和成本信息,并基于模型价格表给出估算成本。成本数字用 标记。

Composer dock panel

在 Web UI 的 composer dock 中,面板会显示开关、token、cache、cost 信息。界面文案支持 zh/en

安装与启用

前置条件

先确认 dsh CLI 在 PATH 上。如果之前只通过 npx 运行 harness,可能没有全局 dsh 命令。可以先安装全局 CLI:

npm install -g @deepseek-ai/dsh

如果使用 pnpm,也可以执行:

pnpm add -g @deepseek-ai/dsh

package.json 中声明的运行要求是 node ^22.19.0 || >=24.0.0,peer dependency 包括 @deepseek-ai/cordis ^4.0.1

添加插件

接下来把插件加入 web profile:

dsh plugin --profile web add "github:tianji-qingtian/dsh-model-router#v0.9.3"

add 只修改 profile files,运行中的 dsh 实例不会热加载新 bundle。需要重启该 profile:

dsh --profile web

验证

重启后,进入 Settings → Plugins,确认 dsh-model-router 已列出。

典型用法

经过上面的步骤,Web UI 的 composer 下方会出现 Router 面板。

常用操作如下:

1、开启自动路由:

/router auto

2、关闭自动路由:

/router off

3、在自动模式下,简单请求会先询问是否快速回答;选择主模型时走正常流程。

4、发送带图片的消息时,插件会优先选择可用视觉模型。

5、查看 composer dock 面板中的 token、cache、cost 信息。

适用场景与注意

  • 适合在 DeepSeek Harness Web UI 中使用,并希望区分简单请求与复杂请求的开发者。
  • 适合需要在会话过程中查看 token、cache-hit 和估算成本的场景。
  • 插件以当前 dsh 进程权限运行。安装前建议检查源码、依赖和许可证。
  • DeepSeek Harness 处于 developer preview,可能出现 compatibility-breaking changes。
  • 成本数字是基于模型价格表的估算,面板使用 标记;TokenUsage fields 是 disjoint,inputTokens excludes cache reads。
  • DSH 的理念是「一切皆插件」;插件目录页属于独立社区目录,不是官方应用商店,也不代表与 DeepSeek幻方 有官方从属关系。

参考

  • 目录页:https://www.skillhub.cn/plugins/tianji-qingtian/dsh-model-router
  • GitHub:https://github.com/tianji-qingtian/dsh-model-router

如果你想在 dsh 会话中区分简单请求和复杂请求,同时查看当前会话的 token、cache 和 cost 信息,dsh-model-router 提供的是模型路由、失败回退和会话成本面板这一层能力。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜