前言¶
在 DeepSeek Harness(dsh)的會話裏,簡單查詢和複雜任務通常會混在一起。如果所有請求都走主模型,成本會持續上升;如果直接全部切到便宜模型,又可能影響需要上下文、視覺或推理能力的請求。
dsh-model-router 就是針對這個問題做的插件:它在便宜模型和強模型之間做啓發式路由,在瞬時失敗時自動回退,並在 composer dock 中提供一個當前會話的 token、cache 和 cost 面板。
這是什麼¶
tianji-qingtian/dsh-model-router 是面向 DeepSeek Harness 的插件,定位是 model router 與 cost optimizer。它由 tianji-qingtian 維護,許可證爲 MIT。
它主要處理三件事:
- 把簡單請求路由到便宜模型;
- 把複雜請求保留給主模型;
- 在會話中展示 token、cache 和 cost 信息。
需要注意:DeepSeek Harness 當前處於 developer preview,文檔提示需要預期 compatibility-breaking changes。插件要求 dsh CLI 在 PATH 上,並且 harness 0.1.1-rc.2 或更高版本。
核心功能¶
下面按插件列出的能力說明。
Cheap-model judge routing¶
插件會用便宜模型判斷請求是否屬於簡單類別。明顯複雜的工作會直接交給主模型;其餘請求進入快速回答判斷。
Ask before quick-answering¶
在自動模式下,命中簡單請求後,插件會先讓用戶選擇:用便宜模型快速回答,或交給主模型。選擇主模型時,走正常流程。
Direct quick-answer¶
當用戶選擇快速回答時,請求由便宜模型直接生成,主模型不參與該次請求。
Vision-aware routing¶
消息中帶有圖片塊時,插件會路由到可用的視覺模型。如果當前環境沒有可用視覺模型,則回退到主模型。
Model picker respected¶
插件不會覆蓋用戶在 composer picker 或 selectModel 中選擇的模型。
Auto / off toggle¶
可以用 /router auto 或 /router off 切換 quick-answering,也可以通過 route_model tool 做同樣操作。
Automatic fallback¶
遇到瞬時失敗時,插件會把當前請求降級到便宜模型。
Real usage metering¶
插件會彙總當前會話的 token 使用、cache 命中和成本信息,並基於模型價格表給出估算成本。成本數字用 ≈ 標記。
Composer dock panel¶
在 Web UI 的 composer dock 中,面板會顯示開關、token、cache、cost 信息。界面文案支持 zh/en。
安裝與啓用¶
前置條件¶
先確認 dsh CLI 在 PATH 上。如果之前只通過 npx 運行 harness,可能沒有全局 dsh 命令。可以先安裝全局 CLI:
npm install -g @deepseek-ai/dsh
如果使用 pnpm,也可以執行:
pnpm add -g @deepseek-ai/dsh
package.json 中聲明的運行要求是 node ^22.19.0 || >=24.0.0,peer dependency 包括 @deepseek-ai/cordis ^4.0.1。
添加插件¶
接下來把插件加入 web profile:
dsh plugin --profile web add "github:tianji-qingtian/dsh-model-router#v0.9.3"
add 只修改 profile files,運行中的 dsh 實例不會熱加載新 bundle。需要重啓該 profile:
dsh --profile web
驗證¶
重啓後,進入 Settings → Plugins,確認 dsh-model-router 已列出。
典型用法¶
經過上面的步驟,Web UI 的 composer 下方會出現 Router 面板。
常用操作如下:
1、開啓自動路由:
/router auto
2、關閉自動路由:
/router off
3、在自動模式下,簡單請求會先詢問是否快速回答;選擇主模型時走正常流程。
4、發送帶圖片的消息時,插件會優先選擇可用視覺模型。
5、查看 composer dock 面板中的 token、cache、cost 信息。
適用場景與注意¶
- 適合在
DeepSeek HarnessWeb UI 中使用,並希望區分簡單請求與複雜請求的開發者。 - 適合需要在會話過程中查看 token、cache-hit 和估算成本的場景。
- 插件以當前
dsh進程權限運行。安裝前建議檢查源碼、依賴和許可證。 DeepSeek Harness處於 developer preview,可能出現 compatibility-breaking changes。- 成本數字是基於模型價格表的估算,面板使用
≈標記;TokenUsagefields 是 disjoint,inputTokensexcludes cache reads。 - DSH 的理念是「一切皆插件」;插件目錄頁屬於獨立社區目錄,不是官方應用商店,也不代表與
DeepSeek或幻方有官方從屬關係。
參考¶
- 目錄頁:
https://www.skillhub.cn/plugins/tianji-qingtian/dsh-model-router - GitHub:
https://github.com/tianji-qingtian/dsh-model-router
如果你想在 dsh 會話中區分簡單請求和複雜請求,同時查看當前會話的 token、cache 和 cost 信息,dsh-model-router 提供的是模型路由、失敗回退和會話成本面板這一層能力。