DeepSeek Harness(DSH)的推理努力选择器由每模型的推理元数据驱动。对于官方 dsh-llm-pi-ai,该元数据是免费的。对于自托管或中继网关,该路由名称在目录中未知,models 替代目录而不是扩展它,且缺少 reasoningEfforts 的条目被报告为非推理模型。该插件从网关的 GET {baseURL}/models 读取这些级别并写入配置文件。
核心功能¶
该插件通过以下方式解决上述问题:
- 同步级别:将 DeepSeek Harness 模型路由的推理努力级别与网关元数据同步,无需为每个模型手动编写
reasoningEfforts块。 - 回退机制:对于网关未描述的模型,回退使用
models.dev数据集。 - 配置支持:支持配置
routes和modelsDev选项,允许白名单控制或自定义回退行为。 - 写入验证:将验证后的
reasoningEfforts写入配置文件。
安装与启用¶
安装前请确保已安装 DeepSeek Harness 0.2.0-rc.2。
- 进入 DeepSeek Harness 的 Plugins 页面。
- 通过注册表名称、绝对路径、Git 地址或 tarball 安装插件。
- 安装后启用该插件包。
配置与使用¶
插件会在配置文件中注册一行,默认配置如下:
- id: reasoning-effort-sync
name: dsh-plugin-reasoning-effort-sync
config:
enabled: true
syncOnLoad: true
intervalMinutes: 0 # 0 禁用定期同步
requestTimeoutMs: 10000
dryRun: false
routes: {} # 空表示处理 pi-ai 行声明的所有路由
modelsDev: # 回退数据源,仅用于网关未描述的模型
enabled: true
url: https://models.dev/api.json
ttlHours: 12
timeoutMs: 30000
minShare: 0.5 # 主导声明所需的同意比例
路由配置 (routes)¶
- 空字典
{}:处理llm-pi-ai行中声明的所有路由。 - 非空字典:作为白名单,仅处理列表中命名的路由。若在列表中设置
enabled: false,则排除该路由。
模型回退配置 (modelsDev)¶
当网关的 /models 端点未提供推理努力级别时,插件会查询 models.dev。
url:数据集地址(默认为 models.dev 的完整数据集)。ttlHours:内存中缓存数据集的时长。timeoutMs:获取数据集的超时时间。minShare:决定是否接受该模型的声明。值为 1 表示需要一致同意,0.5 表示接受多数同意。
测试配置¶
使用 dryRun: true 可以在不写入实际配置的情况下计算并记录结果,用于验证网关返回的级别是否正确。
注意事项¶
- 版本要求:需要 DeepSeek Harness 0.2.0-rc.2。
- 作用范围:仅处理配置文件中声明的路由。
- 模型管理:不添加或移除模型,仅对现有的模型条目进行标注。
- 默认值:不写入默认努力值。