DeepSeek Harness 推理等級自動選擇插件

DeepSeek Harness (DSH) 的推理等級目前只能手動切換。簡單的聊天問候浪費了 high,複雜的代碼重構又容易忘記從 low 調上來。dsh-plugin-jev-effort-selector 解決這個問題:讓 Jev System One 模型判斷每條消息的思考量,按模型聲明的等級自動推導檔位。

插件簡介

插件名稱爲 dsh-plugin-jev-effort-selector。它由 justhalfbit 維護,屬於“模型推理”類別。該插件利用 Jev System One 模型(一個專做分類的小模型)在每次模型調用前判斷當前消息的複雜度,並據此改寫推理等級。

核心能力

  • 按模型推導檔位:讀取每個模型自己聲明的推理等級,取最低檔、medium 或 high。不支持關閉思考的模型永遠拿不到 off。
  • 上下文信封:把上一輪的事實講給 Jev——用了什麼等級、用戶說了什麼、助手說到哪、待辦完成情況。約 500-800 token,重啓後繼承。
  • 一次問兩件事:判斷該用幾檔,以及這條消息是否在延續上一個任務(continues 還是 new)。
  • 只有一條硬規則:如果消息在延續上一個任務(continues),且上一輪的活沒幹完,那就不低於上一輪。其餘一切聽 Jev 的。
  • 一輪一決策:一輪裏的每一步、每一次失敗重試都用同一個等級,Jev 每輪只問一次。
  • 尊重手動選擇:你在選擇器裏改了等級或換了模型,這一輪 Jev 不插手。
  • 低置信度向上取:概率低於閾值時,在概率最高的兩檔裏選更高的。
  • 失敗靜默降級:缺密鑰、網絡不通、超時、返回異常、等級不被支持,任何一種都沿用調用方已解析出的等級,不報錯、不阻塞。
  • 會話隔離:決策、開關、投影全部按會話 id 鍵控,切換會話不串值。插件不往會話日誌寫任何東西。
  • 界面支持:在 dsh web 中顯示芯片,tui / headless 中決策照常生效,只是沒有可視指示。

安裝與配置

前置條件:已安裝 DSH 且 pnpm 在 PATH 上。

dsh plugin --profile web add github:justhalfbit/dsh-plugin-jev-effort-selector

重啓 dsh web 生效。

在設置頁配置 Jev System One API 地址和密鑰。密鑰不進 settings.yaml,走的是 DSH 的憑據服務。配置項包括:

  • enabled:是否開啓。
  • apiUrl:Jev API 地址。
  • apiKeyEnv:憑據引用名(默認 JEV_API_KEY)。
  • model:Jev 模型路由(默認 jev-latest)。
  • confidenceThreshold:置信度閾值(默認 0.6)。
  • timeoutMs:超時時間(默認 5000)。
  • useContext:是否發送上下文信封(默認 true)。
  • levels:每個模型的檔位映射。

工作邏輯

Jev 每輪只問一次。它回答兩個問題:該用幾檔,以及這條消息和上一輪是什麼關係。

如果關係是 continues,且上一輪的活沒幹完(上一輪非正常結束,或待辦裏還有未完成的項),那就不低於上一輪。其他情況,Jev 說幾檔就幾檔。

例如:
* “幾點了” -> 繼續上一輪 -> 取上一輪等級。
* “謝謝” -> 繼續上一輪 -> 但上一輪幹完了 -> Off。
* “繼續” -> 繼續上一輪 -> 但上一輪沒幹完 -> 保持 High。

注意事項

  • Jev 不是對話模型,單次判斷約 500-800 token、一兩秒,成本可以忽略。
  • 插件不往會話日誌裏寫任何東西。
  • 重啓後第一輪,Jev 拿到的信封和重啓前一模一樣。
  • 密鑰不進 settings.yaml,走的是 DSH 的憑據服務。
  • 插件版本爲 0.3.20,License 爲 MIT。

總結

該插件通過引入 Jev System One 模型,實現了推理等級的自動推導與智能管理,解決了手動切換效率低、容易遺忘的問題。它尊重手動選擇,支持會話隔離,並在失敗時靜默降級,適合需要精細控制推理成本的 DSH 用戶。

  • GitHub: https://github.com/justhalfbit/dsh-plugin-jev-effort-selector
  • 目錄: https://www.skillhub.cn/plugins/justhalfbit/dsh-plugin-jev-effort-selector
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜