dsh-auto-router: DeepSeek Harness 上的可配置自動路由層

前言

DeepSeek Harness (DSH) 的生態設計強調一切皆插件。在模型推理場景中,往往需要根據請求類型(代碼、視覺、長文本)動態切換模型,或在不同成本/性能的模型間平衡。dsh-auto-router 插件提供了一個合成 Provider,將請求委託給現有 Provider 路由下的具體模型。

插件簡介

  • 名稱: chaoyuzhang001/dsh-auto-router (包名: @chaoyuzhang/dsh-auto-router)
  • 維護者: ChaoYuZhang001
  • 核心功能: 註冊一個合成 Provider,通過本地文本分析將請求委託給目標路由上的具體模型。

功能說明

插件在模型選擇器中註冊了一個 “Auto Router” 提供商,包含六個選項:
* Auto · 智能路由: 使用默認分類器進行智能路由。
* Auto · 快速: 強制使用 light 層級。
* Auto · 均衡: 強制使用 medium 層級。
* Auto · 深度: 強制使用 heavy 層級。
* Auto · 代碼: 強制使用 code 層級。
* Auto · 視覺: 強制使用 vision 層級。

默認分類器的邏輯如下:
* 圖像請求 -> vision
* 代碼類請求 -> code
* 較長或較深的任務 -> heavy 或 medium
* 短請求 -> light

通過配置 sticky: true,一個會話在任務過程中只會升級其層級,避免在不同模型間頻繁震盪。

安裝與配置

插件通過 DSH Community Market 或受控插件命令安裝。安裝後,需要在配置文件中覆蓋插入的 auto-router 行。

前提條件:
* 目標 Provider 必須已存在。
* Node.js 版本 >= 22.13.0。
* DSH 版本需爲 rc.7 兼容。

配置示例:

- id: auto-router
  config:
    providerId: auto
    displayName: My Auto Router
    targetProvider: my-openai-gateway
    tiers:
      light: fast-model
      medium: balanced-model
      heavy: reasoning-model
      code: coding-model
      vision: vision-model
    sticky: true
    mediumThreshold: 300
    heavyThreshold: 1200
    contextWindow: 262144
    defaultMaxTokens: 32768

默認配置期望存在名爲 ciyuan2api 的路由,包含以下模型 ID:
gpt-5.6-luna, gpt-5.6-terra, gpt-5.6-sol, kimi-k2.7-code, gemini-3.5-flash。

適用場景與注意

  • 權限與安全: 該插件在本地檢查最近的用戶文本以選擇目標模型,不存儲、讀取或傳輸 API 密鑰。密鑰屬於目標 Provider 的正常 DSH 設置。無遙測、生命週期腳本或外部端點。
  • 依賴: 需要 @deepseek-ai/cordis ^4.0.1, @deepseek-ai/dsh-llm ^0.1.0-rc.7, @deepseek-ai/schemastery ^3.18.1。
  • 許可證: MIT。

結語

dsh-auto-router 爲 DSH 提供了一套標準化的模型路由方案,通過合成 Provider 和本地分類邏輯,簡化了多模型編排的配置過程。更多細節可查閱 GitHub 倉庫。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜