前言¶
DeepSeek Harness (DSH) 的生態設計強調一切皆插件。在模型推理場景中,往往需要根據請求類型(代碼、視覺、長文本)動態切換模型,或在不同成本/性能的模型間平衡。dsh-auto-router 插件提供了一個合成 Provider,將請求委託給現有 Provider 路由下的具體模型。
插件簡介¶
- 名稱:
chaoyuzhang001/dsh-auto-router(包名:@chaoyuzhang/dsh-auto-router) - 維護者: ChaoYuZhang001
- 核心功能: 註冊一個合成 Provider,通過本地文本分析將請求委託給目標路由上的具體模型。
功能說明¶
插件在模型選擇器中註冊了一個 “Auto Router” 提供商,包含六個選項:
* Auto · 智能路由: 使用默認分類器進行智能路由。
* Auto · 快速: 強制使用 light 層級。
* Auto · 均衡: 強制使用 medium 層級。
* Auto · 深度: 強制使用 heavy 層級。
* Auto · 代碼: 強制使用 code 層級。
* Auto · 視覺: 強制使用 vision 層級。
默認分類器的邏輯如下:
* 圖像請求 -> vision
* 代碼類請求 -> code
* 較長或較深的任務 -> heavy 或 medium
* 短請求 -> light
通過配置 sticky: true,一個會話在任務過程中只會升級其層級,避免在不同模型間頻繁震盪。
安裝與配置¶
插件通過 DSH Community Market 或受控插件命令安裝。安裝後,需要在配置文件中覆蓋插入的 auto-router 行。
前提條件:
* 目標 Provider 必須已存在。
* Node.js 版本 >= 22.13.0。
* DSH 版本需爲 rc.7 兼容。
配置示例:
- id: auto-router
config:
providerId: auto
displayName: My Auto Router
targetProvider: my-openai-gateway
tiers:
light: fast-model
medium: balanced-model
heavy: reasoning-model
code: coding-model
vision: vision-model
sticky: true
mediumThreshold: 300
heavyThreshold: 1200
contextWindow: 262144
defaultMaxTokens: 32768
默認配置期望存在名爲 ciyuan2api 的路由,包含以下模型 ID:
gpt-5.6-luna, gpt-5.6-terra, gpt-5.6-sol, kimi-k2.7-code, gemini-3.5-flash。
適用場景與注意¶
- 權限與安全: 該插件在本地檢查最近的用戶文本以選擇目標模型,不存儲、讀取或傳輸 API 密鑰。密鑰屬於目標 Provider 的正常 DSH 設置。無遙測、生命週期腳本或外部端點。
- 依賴: 需要
@deepseek-ai/cordis^4.0.1,@deepseek-ai/dsh-llm^0.1.0-rc.7,@deepseek-ai/schemastery^3.18.1。 - 許可證: MIT。
結語¶
dsh-auto-router 爲 DSH 提供了一套標準化的模型路由方案,通過合成 Provider 和本地分類邏輯,簡化了多模型編排的配置過程。更多細節可查閱 GitHub 倉庫。