dsh-smart-router:DeepSeek Harness 智能模型路由插件

前言

在 DeepSeek Harness 的日常使用中,根據任務複雜度切換模型通常需要手動操作。隨着不同模型在定價和能力上的差異,手動選擇效率低下。dsh-smart-router 插件通過引入一個虛擬模型,根據請求內容(文本難度或視覺需求)自動路由到已配置的模型,無需額外設置。

安裝與啓用

使用官方命令安裝插件:

dsh plugin --profile web add dsh-smart-router

安裝完成後,重啓 dsh web 服務。重啓後,在會話模型選擇器中會出現 Smart Router(自動路由) 選項。

核心功能

難度分級路由

插件根據請求複雜度自動路由到三個檔位:
- 困難:架構設計、複雜重構、疑難調試。
- 一般:常規對話、中等複雜度任務。
- 簡單:文件操作、格式化、閒聊。

視覺路由

消息中包含圖片時,自動切換到視覺模型處理。視覺模型會返回結構化證據(摘要、OCR、佈局分析),並將其替換回文本流中繼續處理。支持兩種模式:
- replace(默認):結構化替換,圖片塊被證據文本替代,後續難度分類繼續生效。
- route:整段請求直接路由給視覺模型。

分類器模式

  • 啓發式(默認):基於關鍵詞、代碼量、文件引用數評分,零成本零延遲。
  • LLM:調用模型進行分類,更準確,支持緩存。

緩存友好

插件建議三檔路由選擇同一供應商的同一系列模型(例如同一家的 Pro/Flash 版),以提高前綴緩存命中率。

配置與用法

  1. 打開 設置 → 智能路由:爲困難、一般、簡單和視覺各配置一個模型(下拉列表中即爲“設置 → 模型”裏已配置的模型)。
  2. 在會話中,打開模型選擇器,選擇 Smart Router(自動路由)。
  3. 插件會自動分類請求並路由到相應檔位。

如果未配置路由檔位,請求會回退到默認模型。

配置示例

在 ~/.dsh/profiles/web/settings.yaml 中配置:

smart-router:
  enabled: true
  classifier: heuristic        # heuristic | llm
  hardProvider: deepseek-official
  hardModel: deepseek-v4-pro
  normalProvider: deepseek-official
  normalModel: deepseek-chat
  easyProvider: deepseek-official
  easyModel: deepseek-flash
  visionProvider: zhipu-vision # 需在設置→模型填入 GLM_API_KEY
  visionModel: glm-4v-flash
  visionMode: replace          # replace | route
  visionCacheTtl: 3600

注意事項

  • Fail-open 行爲:如果未配置路由檔位,請求會回退到當前會話的默認模型。
  • 思考強度:對話框模型選擇器上的思考強度(Off/High)作爲全局開關,決定是否開啓 extended thinking。
  • 視覺處理:默認內置免費匿名視覺模型(OVHcloud Qwen2.5-VL-72B-Instruct),也可更換爲自配模型。
  • 生態兼容:插件只在會話模型選擇“Smart Router”時生效,不接管現有 provider 路由,可與其他視覺插件共存。
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜