前言¶
DeepSeek Harness (DSH) 采用“一切皆插件”的架构理念。在开发智能体或应用时,开发者常面临一个具体痛点:直接调用低成本的 Flash 模型速度快但质量不稳定,而调用高成本的 Pro 模型虽然质量高但成本昂贵。需要在成本与质量之间寻找平衡点。
这款插件由 lengquan88 维护,实现了双模型自动路由。它支持 Flash 模型直连以降低成本,在必要时自动升级至 Pro 模型,并构建了“逃逸学习闭环”机制,防止错误答案被重复提交。
核心功能¶
该插件提供以下核心能力:
- 六标准路由决策:根据输入内容的长度、上下文、领域覆盖率、规则冲突、置信度及新颖性,生成六个维度的标签,辅助决策。
- 模型调用切换:在
dual_model_run工具中,系统会先尝试调用deepseek-v4-flash进行直连;若判断需要升级,则调用deepseek-v4-pro。若升级调用失败,会自动降级回 Flash 模型并标记为degraded。 - 逃逸学习闭环:通过
dual_model_mark工具,用户可标记直接结果的正确性。若标记为correct=false,系统会学习指纹并写入日志,下次遇到相同指纹时强制升级模型,避免再次犯错。 - 持久化存储与互通:状态持久化至文件,并兼容 Python
dao/model_router.pyv2 版本的指纹格式。
安装与启用¶
安装¶
在项目目录下执行以下命令安装插件:
pnpm add @lengquan88/dsh-dual-auto
启用¶
- 打开 DSH 项目的配置文件
cordis.patch.yml。 - 添加以下内容以注册插件:
- insert:
- id: dual-auto
name: '@lengquan88/dsh-dual-auto'
- 重启
dsh web服务。
重启后,以下三个工具将在所有会话中可用:dual_model_route、dual_model_run 和 dual_model_mark。
典型用法¶
工具说明¶
- dual_model_route:执行六标准路由决策,输出六个维度的标签。如果指纹曾被标记为错误,该工具会强制标记为升级。
- dual_model_run:执行决策与实际模型调用。流程为:先尝试 Flash 模型,若决策为升级则调用 Pro 模型。针对探测任务,系统会自动验证答案是否正确;若直接答案错误,将触发逃逸学习。
- dual_model_mark:人工标记直接结果的正确性。输入
correct=false会记录指纹并重写磁盘日志标记,确保下次遇到相同指纹时强制升级。
数据持久化¶
插件运行时会生成以下文件用于持久化状态:
output/dsh_router_fingerprints.jsonoutput/dsh_router_stats.jsondsh_router_decision_log.jsonl
这些文件格式与 Python 项目的 dao/model_router.py v2 兼容,可直接加载指纹数据。
适用场景与注意¶
- 适用场景:适合需要在 DSH 中平衡推理成本与模型质量的开发者。特别是在需要处理大量请求,且部分请求对质量要求极高时,通过逃逸学习闭环可以逐步减少 Pro 模型的调用次数。
- 依赖与权限:插件依赖
@deepseek-ai/cordis(^4.0.1)。由于插件以当前 dsh 进程权限运行,安装前请检查源码与许可证。
总结¶
该插件通过自动化的路由决策和逃逸学习机制,解决了 DSH 开发中成本与质量的矛盾。开发者可以专注于业务逻辑,将模型切换与质量校验交由插件处理。更多细节可参考社区目录或源码仓库。