dsh-model-router:給 DeepSeek Harness 的模型路由與成本面板

前言

在 DeepSeek Harness(dsh)的會話裏,簡單查詢和複雜任務通常會混在一起。如果所有請求都走主模型,成本會持續上升;如果直接全部切到便宜模型,又可能影響需要上下文、視覺或推理能力的請求。

dsh-model-router 就是針對這個問題做的插件:它在便宜模型和強模型之間做啓發式路由,在瞬時失敗時自動回退,並在 composer dock 中提供一個當前會話的 token、cache 和 cost 面板。

這是什麼

tianji-qingtian/dsh-model-router 是面向 DeepSeek Harness 的插件,定位是 model router 與 cost optimizer。它由 tianji-qingtian 維護,許可證爲 MIT

它主要處理三件事:

  • 把簡單請求路由到便宜模型;
  • 把複雜請求保留給主模型;
  • 在會話中展示 token、cache 和 cost 信息。

需要注意:DeepSeek Harness 當前處於 developer preview,文檔提示需要預期 compatibility-breaking changes。插件要求 dsh CLI 在 PATH 上,並且 harness 0.1.1-rc.2 或更高版本。

核心功能

下面按插件列出的能力說明。

Cheap-model judge routing

插件會用便宜模型判斷請求是否屬於簡單類別。明顯複雜的工作會直接交給主模型;其餘請求進入快速回答判斷。

Ask before quick-answering

在自動模式下,命中簡單請求後,插件會先讓用戶選擇:用便宜模型快速回答,或交給主模型。選擇主模型時,走正常流程。

Direct quick-answer

當用戶選擇快速回答時,請求由便宜模型直接生成,主模型不參與該次請求。

Vision-aware routing

消息中帶有圖片塊時,插件會路由到可用的視覺模型。如果當前環境沒有可用視覺模型,則回退到主模型。

Model picker respected

插件不會覆蓋用戶在 composer picker 或 selectModel 中選擇的模型。

Auto / off toggle

可以用 /router auto/router off 切換 quick-answering,也可以通過 route_model tool 做同樣操作。

Automatic fallback

遇到瞬時失敗時,插件會把當前請求降級到便宜模型。

Real usage metering

插件會彙總當前會話的 token 使用、cache 命中和成本信息,並基於模型價格表給出估算成本。成本數字用 標記。

Composer dock panel

在 Web UI 的 composer dock 中,面板會顯示開關、token、cache、cost 信息。界面文案支持 zh/en

安裝與啓用

前置條件

先確認 dsh CLI 在 PATH 上。如果之前只通過 npx 運行 harness,可能沒有全局 dsh 命令。可以先安裝全局 CLI:

npm install -g @deepseek-ai/dsh

如果使用 pnpm,也可以執行:

pnpm add -g @deepseek-ai/dsh

package.json 中聲明的運行要求是 node ^22.19.0 || >=24.0.0,peer dependency 包括 @deepseek-ai/cordis ^4.0.1

添加插件

接下來把插件加入 web profile:

dsh plugin --profile web add "github:tianji-qingtian/dsh-model-router#v0.9.3"

add 只修改 profile files,運行中的 dsh 實例不會熱加載新 bundle。需要重啓該 profile:

dsh --profile web

驗證

重啓後,進入 Settings → Plugins,確認 dsh-model-router 已列出。

典型用法

經過上面的步驟,Web UI 的 composer 下方會出現 Router 面板。

常用操作如下:

1、開啓自動路由:

/router auto

2、關閉自動路由:

/router off

3、在自動模式下,簡單請求會先詢問是否快速回答;選擇主模型時走正常流程。

4、發送帶圖片的消息時,插件會優先選擇可用視覺模型。

5、查看 composer dock 面板中的 token、cache、cost 信息。

適用場景與注意

  • 適合在 DeepSeek Harness Web UI 中使用,並希望區分簡單請求與複雜請求的開發者。
  • 適合需要在會話過程中查看 token、cache-hit 和估算成本的場景。
  • 插件以當前 dsh 進程權限運行。安裝前建議檢查源碼、依賴和許可證。
  • DeepSeek Harness 處於 developer preview,可能出現 compatibility-breaking changes。
  • 成本數字是基於模型價格表的估算,面板使用 標記;TokenUsage fields 是 disjoint,inputTokens excludes cache reads。
  • DSH 的理念是「一切皆插件」;插件目錄頁屬於獨立社區目錄,不是官方應用商店,也不代表與 DeepSeek幻方 有官方從屬關係。

參考

  • 目錄頁:https://www.skillhub.cn/plugins/tianji-qingtian/dsh-model-router
  • GitHub:https://github.com/tianji-qingtian/dsh-model-router

如果你想在 dsh 會話中區分簡單請求和複雜請求,同時查看當前會話的 token、cache 和 cost 信息,dsh-model-router 提供的是模型路由、失敗回退和會話成本面板這一層能力。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜