dsh-plugin-reasoning-effort-sync:自动同步模型推理级别

DeepSeek Harness(DSH)的推理努力选择器由每模型的推理元数据驱动。对于官方 dsh-llm-pi-ai,该元数据是免费的。对于自托管或中继网关,该路由名称在目录中未知,models 替代目录而不是扩展它,且缺少 reasoningEfforts 的条目被报告为非推理模型。该插件从网关的 GET {baseURL}/models 读取这些级别并写入配置文件。

核心功能

该插件通过以下方式解决上述问题:

  1. 同步级别:将 DeepSeek Harness 模型路由的推理努力级别与网关元数据同步,无需为每个模型手动编写 reasoningEfforts 块。
  2. 回退机制:对于网关未描述的模型,回退使用 models.dev 数据集。
  3. 配置支持:支持配置 routes 和 modelsDev 选项,允许白名单控制或自定义回退行为。
  4. 写入验证:将验证后的 reasoningEfforts 写入配置文件。

安装与启用

安装前请确保已安装 DeepSeek Harness 0.2.0-rc.2。

  1. 进入 DeepSeek Harness 的 Plugins 页面。
  2. 通过注册表名称、绝对路径、Git 地址或 tarball 安装插件。
  3. 安装后启用该插件包。

配置与使用

插件会在配置文件中注册一行,默认配置如下:

- id: reasoning-effort-sync
  name: dsh-plugin-reasoning-effort-sync
  config:
    enabled: true
    syncOnLoad: true
    intervalMinutes: 0        # 0 禁用定期同步
    requestTimeoutMs: 10000
    dryRun: false
    routes: {}                # 空表示处理 pi-ai 行声明的所有路由
    modelsDev:                # 回退数据源,仅用于网关未描述的模型
      enabled: true
      url: https://models.dev/api.json
      ttlHours: 12
      timeoutMs: 30000
      minShare: 0.5           # 主导声明所需的同意比例

路由配置 (routes)

  • 空字典 {}:处理 llm-pi-ai 行中声明的所有路由。
  • 非空字典:作为白名单,仅处理列表中命名的路由。若在列表中设置 enabled: false,则排除该路由。

模型回退配置 (modelsDev)

当网关的 /models 端点未提供推理努力级别时,插件会查询 models.dev。

  • url:数据集地址(默认为 models.dev 的完整数据集)。
  • ttlHours:内存中缓存数据集的时长。
  • timeoutMs:获取数据集的超时时间。
  • minShare:决定是否接受该模型的声明。值为 1 表示需要一致同意,0.5 表示接受多数同意。

测试配置

使用 dryRun: true 可以在不写入实际配置的情况下计算并记录结果,用于验证网关返回的级别是否正确。

注意事项

  • 版本要求:需要 DeepSeek Harness 0.2.0-rc.2。
  • 作用范围:仅处理配置文件中声明的路由。
  • 模型管理:不添加或移除模型,仅对现有的模型条目进行标注。
  • 默认值:不写入默认努力值。
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜