dsh-relay-reasoning:爲 OpenAI 兼容中轉站注入推理等級

前言

DeepSeek Harness(DSH)通過插件體系擴展能力。在 DSH 的模型選擇器裏,目前只有 @deepseek-ai/dsh-llm-pi-ai 這類原生插件會根據模型的 reasoningEfforts 字段暴露推理等級。而自建或第三方中轉站通常也支持 reasoning_effort 參數,但 DSH 的原生插件不會自動爲這些中轉站模型暴露這些選項,需要手動爲每個模型聲明。

手動聲明意味着重複工作:每增加一個模型就要寫七行配置,模型列表更新後又要重做。dsh-relay-reasoning 插件的作用是讓這些中轉站的推理等級直接出現在 DSH 的模型選擇器中,無需手動配置。

這是什麼

dsh-relay-reasoning 是一個 DSH 插件,爲 llm-pi-ai 配置項下的所有模型寫入 reasoningEfforts 字段,使 DSH 的模型選擇器能夠展示推理等級選項。插件由 wuwan911-cell 維護,分類爲「模型推理」。

插件默認爲每個模型提供五檔推理等級:off、low、medium、high、max。它通過監聽配置重載事件,自動更新缺失的聲明,因此添加中轉站或模型時無需重啓 DSH。

核心功能

  • 自動注入推理等級:爲指定配置項下的所有模型寫入 reasoningEfforts 字段,使模型選擇器可見相應選項。
  • 隨配置自動同步:插件在激活時執行首次寫入,並在每次配置重載(添加中轉站、添加模型、編輯路由)時再次檢查並補充缺失的聲明。
  • 冪等寫入:若模型已聲明與當前配置一致的等級,插件不會重複寫入,避免不必要的配置變動。
  • 靈活的等級選擇:可通過配置項 levels 自定義發佈的等級組合,支持從 off 到 max 的任意子集,忽略不生效的等級。

安裝與啓用

插件可通過 DSH 工作臺安裝,也可以直接使用命令行安裝:

plugin_manager install_bundle → dsh-relay-reasoning

從本地檢出安裝開發構建:

plugin_manager install_bundle → <路徑>

安裝後,在 DSH 設置 → 工作臺 → 插件中啓用插件。

典型用法

插件在插件行中接受可選的 YAML 配置。默認配置會爲 llm-pi-ai 配置項下的所有提供者的所有模型注入 off、low、medium、high、max 五檔等級。

- insert:
    - id: relay-reasoning
      name: dsh-relay-reasoning
      config:
        target: llm-pi-ai                 # 要配置的配置項 ID
        providers: []                     # 空表示該配置項下的所有提供者
        levels: [off, low, medium, high, max]  # 發佈的等級,按升序排列
        force: false                      # true 表示在激活時強制重寫,即使已正確
        debugLog: ""                      # 可選的診斷日誌路徑

如果中轉站不支持 max 等級,可以在 levels 中將其移除,例如:

levels: [off, low, medium, high]

插件接受任意子集,如 [off, max] 等,未知名稱會被過濾。

適用場景與注意

  • 適用於所有在 llm-pi-ai 配置項下聲明的 OpenAI 兼容中轉站,不限於單一中轉。
  • 插件在 DSH 進程內運行,建議在安裝前檢查源碼與許可證(MIT)。
  • 需要滿足 DSH 版本要求:>=0.2.1-rc.1。
  • 插件不覆蓋 llm-pi-ai 整行配置,而是通過路徑級操作寫入 providers.<name>.models[i].reasoningEfforts。

結尾

dsh-relay-reasoning 讓你爲 OpenAI 兼容中轉站一鍵注入推理等級,無需重複配置。更多細節與源碼可在 GitHub 查看:https://github.com/wuwan911-cell/dsh-relay-reasoning

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜