DeepSeek Harness (DSH) 采用插件化架构,允许通过扩展来改变模型行为。推理等级(reasoning_effort)决定了模型在低/高/最大档位间消耗的 token 数量,直接影响成本和思考深度。手动设置通常是会话级的静态配置,难以根据每条消息的复杂度动态调整。dsh-adaptive-effort 插件通过自动打分机制解决了这个问题。
插件概览¶
- 名称:dsh-adaptive-effort
- 维护者:imkingjh999
- 类别:模型推理
- 许可证:MIT
- 核心价值:在 DSH 环境中,根据每条用户消息的复杂度,自动选择
reasoning_effort(低/高/最大)。它集成了 MiniMax 复杂度打分、Token 记账(估算降档节省)以及回复元数据标签,并针对 GLM-5.3 强制思考模型做了兼容性处理。
核心功能¶
-
自动打分与调度
默认使用 MiniMax 模型对用户消息进行复杂度打分(关闭 thinking,限制 token),打分结果决定当前轮次注入low、high还是max档位。若打分失败或超时,会自动回退到启发式模式(基于长度、代码块、关键词的规则判断)。 -
Token 记账与估算
插件会记录每步的 tier(档位)、effort、原因及打分来源。每步的 usage(输入/输出 token)延迟入库。报表功能会统计各档位的 token 消耗,并估算“降档节省”的 token 数量,同时标记疑似低估(low 档输出爆炸)或疑似高估的异常路由。 -
回复元数据标签
每条 AI 回复末尾会渲染一枚徽标,显示模型、实际思考档位、输出 tokens 和步数。点击徽标可平滑滚动到该回复开头。标签数据来源于会话快照和 trajectory 视图的对齐,不消耗额外 RPC。 -
GLM-5.3 强制思考钳制
GLM-5.3 等强制思考模型不支持medium档位,且thinking.type: disabled会报错。插件会自动钳制手动选择的off档位为low,并记录日志,防止 API 调用失败。 -
重负载工具升级
当工具参数超过 3200 字符(重负载)时,插件会强制将档位升级为max,确保长参数任务能获得足够的思考资源。
安装与启用¶
在本地开发环境中,首先克隆或放置插件目录,然后执行安装命令:
dsh plugin add ./dsh-adaptive-effort
安装后,刷新 DSH 页面即可生效。启用自动调度需要通过模型选择器进行手动开启。
使用方法¶
1. 启用自动调度¶
点开模型选择弹窗,在模型下方的「推理等级」列表中,选择 「自动」。此时插件才会介入,根据 MiniMax 打分或启发式规则动态注入 reasoning_effort。选择 Off/Low/High/Max 为原生手动档,插件不干预。
2. 查看 CLI 报表¶
使用 Node.js 运行报表脚本,查看会话的档位分布与节省统计:
node lib/report.js # 会话索引
node lib/report.js --last # 最近会话报表
node lib/report.js --session <id>
node lib/report.js --all # 全部合并
配置项¶
插件配置支持 cordis.yml 或设置命名空间 adaptive-effort。以下为常用配置项:
| 键 | 默认值 | 说明 |
|---|---|---|
enabled |
true |
总开关,控制是否启用自动调度。 |
level |
auto |
插件级档位。auto 表示跟随模型选择器;off/low/high/max 表示强制全局档位。 |
mode |
minimax |
打分后端。minimax 使用 LLM 打分;heuristic 使用纯规则回退。 |
minimaxApiKey |
'' |
MiniMax API Key。为空时会读取环境变量 MINIMAX_API_KEY。 |
minimaxBaseUrl |
https://api.minimaxi.com/v1 |
国际站地址。国内站可改为 https://api.minimax.chat/v1。 |
minimaxModel |
MiniMax-M3 |
使用的打分模型。 |
scoreTimeoutMs |
4000 |
打分请求超时时间,超时后触发启发式回退。 |
allowToolUpgrade |
true |
允许重负载工具参数将档位提升至 max。 |
clampForcedThinkingOff |
true |
对 GLM-5.3 等强制思考模型,将手动 off 钳制为 low。 |
ledgerDir |
'' |
账本目录。为空则默认为 ~/.dsh/adaptive-effort。 |
注意事项与限制¶
- 账本采集延迟:记账发生在下一次
agent/request阶段。如果一轮对话中断(例如在 assistant 回复前停止),该轮次可能缺失 usage 记录。 - 启发式回退保守:纯规则的启发式回退依赖长度和关键词,策略较为保守。
- 报表只读:CLI 报表只读取本地 JSONL 文件,不会再次消耗 API。
- 档位兼容性:GLM-5.3 等强制思考模型不支持
medium档位,插件已对此做钳制处理。
总结¶
dsh-adaptive-effort 为 DSH 用户提供了类似 effort-router 的动态推理能力。它通过 MiniMax 复杂度打分和 Token 记账,在保证难题思考深度(max 档)的同时,通过降档节省琐碎任务的成本(low 档)。配合回复标签和报表,可以直观核验每条回复的实际档位消耗。