前言¶
在 DeepSeek Harness 的日常使用中,根據任務複雜度切換模型通常需要手動操作。隨着不同模型在定價和能力上的差異,手動選擇效率低下。dsh-smart-router 插件通過引入一個虛擬模型,根據請求內容(文本難度或視覺需求)自動路由到已配置的模型,無需額外設置。
安裝與啓用¶
使用官方命令安裝插件:
dsh plugin --profile web add dsh-smart-router
安裝完成後,重啓 dsh web 服務。重啓後,在會話模型選擇器中會出現 Smart Router(自動路由) 選項。
核心功能¶
難度分級路由¶
插件根據請求複雜度自動路由到三個檔位:
- 困難:架構設計、複雜重構、疑難調試。
- 一般:常規對話、中等複雜度任務。
- 簡單:文件操作、格式化、閒聊。
視覺路由¶
消息中包含圖片時,自動切換到視覺模型處理。視覺模型會返回結構化證據(摘要、OCR、佈局分析),並將其替換回文本流中繼續處理。支持兩種模式:
- replace(默認):結構化替換,圖片塊被證據文本替代,後續難度分類繼續生效。
- route:整段請求直接路由給視覺模型。
分類器模式¶
- 啓發式(默認):基於關鍵詞、代碼量、文件引用數評分,零成本零延遲。
- LLM:調用模型進行分類,更準確,支持緩存。
緩存友好¶
插件建議三檔路由選擇同一供應商的同一系列模型(例如同一家的 Pro/Flash 版),以提高前綴緩存命中率。
配置與用法¶
- 打開 設置 → 智能路由:爲困難、一般、簡單和視覺各配置一個模型(下拉列表中即爲“設置 → 模型”裏已配置的模型)。
- 在會話中,打開模型選擇器,選擇 Smart Router(自動路由)。
- 插件會自動分類請求並路由到相應檔位。
如果未配置路由檔位,請求會回退到默認模型。
配置示例¶
在 ~/.dsh/profiles/web/settings.yaml 中配置:
smart-router:
enabled: true
classifier: heuristic # heuristic | llm
hardProvider: deepseek-official
hardModel: deepseek-v4-pro
normalProvider: deepseek-official
normalModel: deepseek-chat
easyProvider: deepseek-official
easyModel: deepseek-flash
visionProvider: zhipu-vision # 需在設置→模型填入 GLM_API_KEY
visionModel: glm-4v-flash
visionMode: replace # replace | route
visionCacheTtl: 3600
注意事項¶
- Fail-open 行爲:如果未配置路由檔位,請求會回退到當前會話的默認模型。
- 思考強度:對話框模型選擇器上的思考強度(Off/High)作爲全局開關,決定是否開啓 extended thinking。
- 視覺處理:默認內置免費匿名視覺模型(OVHcloud Qwen2.5-VL-72B-Instruct),也可更換爲自配模型。
- 生態兼容:插件只在會話模型選擇“Smart Router”時生效,不接管現有 provider 路由,可與其他視覺插件共存。