前言¶
在使用 DeepSeek Harness(DSH)進行智能體開發時,管理模型的推理精力(reasoning effort)和模型切換是一個具體的技術痛點。手動調整每一步的精力設置效率低下,且容易出錯。dsh-model-router 是爲此設計的一個插件,它將模型池管理與推理精力路由結合在一起,旨在自動化這一過程。
功能概述¶
該插件是 DeepSeek Harness 的一個插件,由 Neptune810 維護。它的核心功能是處理 Flash-only 的推理精力路由,允許爲每一步設置推理精力,同時保持模型池不變。
核心功能包括:
* Flash-only 推理精力路由:設置每一步的推理精力,模型不發生變化。
* 模型池管理:支持成本等級(便宜/強力)和視覺標籤。
* 授權範圍:支持完整(模型+精力)、精力(僅精力)、模型(僅模型)三種控制模式。
* 任務預設:支持關鍵詞匹配和每模型權重配置。
* 視覺路由:支持圖像步驟的路由。
* 語義任務分類器:可選的語義任務分類功能。
* 計劃繼承:新對話繼承上一次的計劃。
* Composer UI 集成:與 DSH 的 Composer 界面集成。
使用示例¶
按難度路由步驟¶
插件根據任務難度自動設置推理精力:
* trivial(簡單):意圖明確、步驟短,精力設爲 low。
* standard(標準):普通短請求,精力設爲 low。
* engineering(工程):包含代碼/差異/XML 結構或工具循環,精力設爲 high。
* hard(困難):密集工程簡報或任務內部失敗,精力設爲 high 或 max(需開啓 allowMax)。
配置模型池¶
在 YAML 配置中定義模型池、成本等級和視覺標籤:
pool:
- { id: deepseek-official/deepseek-flash, cost: 1, tier: cheap }
- { id: deepseek-official/deepseek-v4-pro, cost: 8, tier: strong, maxPerTask: 3 }
- { id: deepseek-official/deepseek-v4-flash-vision-exp, cost: 1, tags: [vision] }
- { id: vendor-x/writer-pro, cost: 20, weights: { 小說續寫: 95 } }
配置任務預設¶
定義任務類型,使用關鍵詞匹配和特定模型權重:
presets:
小說續寫:
match: ["續寫", "小說", "文風", "/chapter\\s+\\d+/i"]
weights: { "vendor-x/writer-pro": 95, "deepseek-official/deepseek-v4-pro": 60 }
代碼重構:
match: ["重構", "refactor", "架構"]
weights: { "deepseek-official/deepseek-v4-pro": 90 }
注意事項¶
- 思考模式必須開啓:DeepSeek 拒絕任何包含已關閉思考工具調用的請求。因此,該插件始終保持思考開啓。
- 默認 UI 不透明:Composer UI 面板默認是不透明的。
- 源碼更改需重啓:插件註冊到 DSH 的已發貨座位中。更改源代碼需要完全重啓
dsh web或桌面應用。 - 版本回滾:版本 0.10.0 曾因座位渲染問題被回滾。
結尾¶
dsh-model-router 適合需要在 DSH 中精細化控制模型推理精力的場景。通過模型池和任務預設,可以自動化處理不同複雜度的步驟。更多細節和源碼請參考項目主頁。