DeepSeek Harness 插件:dsh-adaptive-effort

DeepSeek Harness (DSH) 采用插件化架构,允许通过扩展来改变模型行为。推理等级(reasoning_effort)决定了模型在低/高/最大档位间消耗的 token 数量,直接影响成本和思考深度。手动设置通常是会话级的静态配置,难以根据每条消息的复杂度动态调整。dsh-adaptive-effort 插件通过自动打分机制解决了这个问题。

插件概览

  • 名称:dsh-adaptive-effort
  • 维护者:imkingjh999
  • 类别:模型推理
  • 许可证:MIT
  • 核心价值:在 DSH 环境中,根据每条用户消息的复杂度,自动选择 reasoning_effort(低/高/最大)。它集成了 MiniMax 复杂度打分、Token 记账(估算降档节省)以及回复元数据标签,并针对 GLM-5.3 强制思考模型做了兼容性处理。

核心功能

  1. 自动打分与调度
    默认使用 MiniMax 模型对用户消息进行复杂度打分(关闭 thinking,限制 token),打分结果决定当前轮次注入 low、high 还是 max 档位。若打分失败或超时,会自动回退到启发式模式(基于长度、代码块、关键词的规则判断)。

  2. Token 记账与估算
    插件会记录每步的 tier(档位)、effort、原因及打分来源。每步的 usage(输入/输出 token)延迟入库。报表功能会统计各档位的 token 消耗,并估算“降档节省”的 token 数量,同时标记疑似低估(low 档输出爆炸)或疑似高估的异常路由。

  3. 回复元数据标签
    每条 AI 回复末尾会渲染一枚徽标,显示模型、实际思考档位、输出 tokens 和步数。点击徽标可平滑滚动到该回复开头。标签数据来源于会话快照和 trajectory 视图的对齐,不消耗额外 RPC。

  4. GLM-5.3 强制思考钳制
    GLM-5.3 等强制思考模型不支持 medium 档位,且 thinking.type: disabled 会报错。插件会自动钳制手动选择的 off 档位为 low,并记录日志,防止 API 调用失败。

  5. 重负载工具升级
    当工具参数超过 3200 字符(重负载)时,插件会强制将档位升级为 max,确保长参数任务能获得足够的思考资源。

安装与启用

在本地开发环境中,首先克隆或放置插件目录,然后执行安装命令:

dsh plugin add ./dsh-adaptive-effort

安装后,刷新 DSH 页面即可生效。启用自动调度需要通过模型选择器进行手动开启。

使用方法

1. 启用自动调度

点开模型选择弹窗,在模型下方的「推理等级」列表中,选择 「自动」。此时插件才会介入,根据 MiniMax 打分或启发式规则动态注入 reasoning_effort。选择 Off/Low/High/Max 为原生手动档,插件不干预。

2. 查看 CLI 报表

使用 Node.js 运行报表脚本,查看会话的档位分布与节省统计:

node lib/report.js            # 会话索引
node lib/report.js --last     # 最近会话报表
node lib/report.js --session <id>
node lib/report.js --all      # 全部合并

配置项

插件配置支持 cordis.yml 或设置命名空间 adaptive-effort。以下为常用配置项:

键 默认值 说明
enabled true 总开关,控制是否启用自动调度。
level auto 插件级档位。auto 表示跟随模型选择器;off/low/high/max 表示强制全局档位。
mode minimax 打分后端。minimax 使用 LLM 打分;heuristic 使用纯规则回退。
minimaxApiKey '' MiniMax API Key。为空时会读取环境变量 MINIMAX_API_KEY。
minimaxBaseUrl https://api.minimaxi.com/v1 国际站地址。国内站可改为 https://api.minimax.chat/v1。
minimaxModel MiniMax-M3 使用的打分模型。
scoreTimeoutMs 4000 打分请求超时时间,超时后触发启发式回退。
allowToolUpgrade true 允许重负载工具参数将档位提升至 max。
clampForcedThinkingOff true 对 GLM-5.3 等强制思考模型,将手动 off 钳制为 low。
ledgerDir '' 账本目录。为空则默认为 ~/.dsh/adaptive-effort。

注意事项与限制

  • 账本采集延迟:记账发生在下一次 agent/request 阶段。如果一轮对话中断(例如在 assistant 回复前停止),该轮次可能缺失 usage 记录。
  • 启发式回退保守:纯规则的启发式回退依赖长度和关键词,策略较为保守。
  • 报表只读:CLI 报表只读取本地 JSONL 文件,不会再次消耗 API。
  • 档位兼容性:GLM-5.3 等强制思考模型不支持 medium 档位,插件已对此做钳制处理。

总结

dsh-adaptive-effort 为 DSH 用户提供了类似 effort-router 的动态推理能力。它通过 MiniMax 复杂度打分和 Token 记账,在保证难题思考深度(max 档)的同时,通过降档节省琐碎任务的成本(low 档)。配合回复标签和报表,可以直观核验每条回复的实际档位消耗。

插件目录 | GitHub 仓库

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜