DeepSeek Harness 插件:dsh-adaptive-effort

DeepSeek Harness (DSH) 採用插件化架構,允許通過擴展來改變模型行爲。推理等級(reasoning_effort)決定了模型在低/高/最大檔位間消耗的 token 數量,直接影響成本和思考深度。手動設置通常是會話級的靜態配置,難以根據每條消息的複雜度動態調整。dsh-adaptive-effort 插件通過自動打分機制解決了這個問題。

插件概覽

  • 名稱:dsh-adaptive-effort
  • 維護者:imkingjh999
  • 類別:模型推理
  • 許可證:MIT
  • 核心價值:在 DSH 環境中,根據每條用戶消息的複雜度,自動選擇 reasoning_effort(低/高/最大)。它集成了 MiniMax 複雜度打分、Token 記賬(估算降檔節省)以及回覆元數據標籤,並針對 GLM-5.3 強制思考模型做了兼容性處理。

核心功能

  1. 自動打分與調度
    默認使用 MiniMax 模型對用戶消息進行復雜度打分(關閉 thinking,限制 token),打分結果決定當前輪次注入 low、high 還是 max 檔位。若打分失敗或超時,會自動回退到啓發式模式(基於長度、代碼塊、關鍵詞的規則判斷)。

  2. Token 記賬與估算
    插件會記錄每步的 tier(檔位)、effort、原因及打分來源。每步的 usage(輸入/輸出 token)延遲入庫。報表功能會統計各檔位的 token 消耗,並估算“降檔節省”的 token 數量,同時標記疑似低估(low 檔輸出爆炸)或疑似高估的異常路由。

  3. 回覆元數據標籤
    每條 AI 回覆末尾會渲染一枚徽標,顯示模型、實際思考檔位、輸出 tokens 和步數。點擊徽標可平滑滾動到該回復開頭。標籤數據來源於會話快照和 trajectory 視圖的對齊,不消耗額外 RPC。

  4. GLM-5.3 強制思考鉗制
    GLM-5.3 等強制思考模型不支持 medium 檔位,且 thinking.type: disabled 會報錯。插件會自動鉗制手動選擇的 off 檔位爲 low,並記錄日誌,防止 API 調用失敗。

  5. 重負載工具升級
    當工具參數超過 3200 字符(重負載)時,插件會強制將檔位升級爲 max,確保長參數任務能獲得足夠的思考資源。

安裝與啓用

在本地開發環境中,首先克隆或放置插件目錄,然後執行安裝命令:

dsh plugin add ./dsh-adaptive-effort

安裝後,刷新 DSH 頁面即可生效。啓用自動調度需要通過模型選擇器進行手動開啓。

使用方法

1. 啓用自動調度

點開模型選擇彈窗,在模型下方的「推理等級」列表中,選擇 「自動」。此時插件纔會介入,根據 MiniMax 打分或啓發式規則動態注入 reasoning_effort。選擇 Off/Low/High/Max 爲原生手動檔,插件不干預。

2. 查看 CLI 報表

使用 Node.js 運行報表腳本,查看會話的檔位分佈與節省統計:

node lib/report.js            # 會話索引
node lib/report.js --last     # 最近會話報表
node lib/report.js --session <id>
node lib/report.js --all      # 全部合併

配置項

插件配置支持 cordis.yml 或設置命名空間 adaptive-effort。以下爲常用配置項:

鍵 默認值 說明
enabled true 總開關,控制是否啓用自動調度。
level auto 插件級檔位。auto 表示跟隨模型選擇器;off/low/high/max 表示強制全局檔位。
mode minimax 打分後端。minimax 使用 LLM 打分;heuristic 使用純規則回退。
minimaxApiKey '' MiniMax API Key。爲空時會讀取環境變量 MINIMAX_API_KEY。
minimaxBaseUrl https://api.minimaxi.com/v1 國際站地址。國內站可改爲 https://api.minimax.chat/v1。
minimaxModel MiniMax-M3 使用的打分模型。
scoreTimeoutMs 4000 打分請求超時時間,超時後觸發啓發式回退。
allowToolUpgrade true 允許重負載工具參數將檔位提升至 max。
clampForcedThinkingOff true 對 GLM-5.3 等強制思考模型,將手動 off 鉗制爲 low。
ledgerDir '' 賬本目錄。爲空則默認爲 ~/.dsh/adaptive-effort。

注意事項與限制

  • 賬本採集延遲:記賬發生在下一次 agent/request 階段。如果一輪對話中斷(例如在 assistant 回覆前停止),該輪次可能缺失 usage 記錄。
  • 啓發式回退保守:純規則的啓發式回退依賴長度和關鍵詞,策略較爲保守。
  • 報表只讀:CLI 報表只讀取本地 JSONL 文件,不會再次消耗 API。
  • 檔位兼容性:GLM-5.3 等強制思考模型不支持 medium 檔位,插件已對此做鉗制處理。

總結

dsh-adaptive-effort 爲 DSH 用戶提供了類似 effort-router 的動態推理能力。它通過 MiniMax 複雜度打分和 Token 記賬,在保證難題思考深度(max 檔)的同時,通過降檔節省瑣碎任務的成本(low 檔)。配合回覆標籤和報表,可以直觀覈驗每條回覆的實際檔位消耗。

插件目錄 | GitHub 倉庫

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜