dsh-model-router:DeepSeek Harness 的推理精力路由插件

前言

在使用 DeepSeek Harness(DSH)進行智能體開發時,管理模型的推理精力(reasoning effort)和模型切換是一個具體的技術痛點。手動調整每一步的精力設置效率低下,且容易出錯。dsh-model-router 是爲此設計的一個插件,它將模型池管理與推理精力路由結合在一起,旨在自動化這一過程。

功能概述

該插件是 DeepSeek Harness 的一個插件,由 Neptune810 維護。它的核心功能是處理 Flash-only 的推理精力路由,允許爲每一步設置推理精力,同時保持模型池不變。

核心功能包括:
* Flash-only 推理精力路由:設置每一步的推理精力,模型不發生變化。
* 模型池管理:支持成本等級(便宜/強力)和視覺標籤。
* 授權範圍:支持完整(模型+精力)、精力(僅精力)、模型(僅模型)三種控制模式。
* 任務預設:支持關鍵詞匹配和每模型權重配置。
* 視覺路由:支持圖像步驟的路由。
* 語義任務分類器:可選的語義任務分類功能。
* 計劃繼承:新對話繼承上一次的計劃。
* Composer UI 集成:與 DSH 的 Composer 界面集成。

使用示例

按難度路由步驟

插件根據任務難度自動設置推理精力:
* trivial(簡單):意圖明確、步驟短,精力設爲 low。
* standard(標準):普通短請求,精力設爲 low。
* engineering(工程):包含代碼/差異/XML 結構或工具循環,精力設爲 high。
* hard(困難):密集工程簡報或任務內部失敗,精力設爲 high 或 max(需開啓 allowMax)。

配置模型池

在 YAML 配置中定義模型池、成本等級和視覺標籤:

pool:
  - { id: deepseek-official/deepseek-flash, cost: 1, tier: cheap }
  - { id: deepseek-official/deepseek-v4-pro, cost: 8, tier: strong, maxPerTask: 3 }
  - { id: deepseek-official/deepseek-v4-flash-vision-exp, cost: 1, tags: [vision] }
  - { id: vendor-x/writer-pro, cost: 20, weights: { 小說續寫: 95 } }

配置任務預設

定義任務類型,使用關鍵詞匹配和特定模型權重:

presets:
  小說續寫:
    match: ["續寫", "小說", "文風", "/chapter\\s+\\d+/i"]
    weights: { "vendor-x/writer-pro": 95, "deepseek-official/deepseek-v4-pro": 60 }
  代碼重構:
    match: ["重構", "refactor", "架構"]
    weights: { "deepseek-official/deepseek-v4-pro": 90 }

注意事項

  • 思考模式必須開啓:DeepSeek 拒絕任何包含已關閉思考工具調用的請求。因此,該插件始終保持思考開啓。
  • 默認 UI 不透明:Composer UI 面板默認是不透明的。
  • 源碼更改需重啓:插件註冊到 DSH 的已發貨座位中。更改源代碼需要完全重啓 dsh web 或桌面應用。
  • 版本回滾:版本 0.10.0 曾因座位渲染問題被回滾。

結尾

dsh-model-router 適合需要在 DSH 中精細化控制模型推理精力的場景。通過模型池和任務預設,可以自動化處理不同複雜度的步驟。更多細節和源碼請參考項目主頁。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜