DeepSeek Harness 双模型自动路由插件:低成本直连与逃逸学习闭环

前言

DeepSeek Harness (DSH) 采用“一切皆插件”的架构理念。在开发智能体或应用时,开发者常面临一个具体痛点:直接调用低成本的 Flash 模型速度快但质量不稳定,而调用高成本的 Pro 模型虽然质量高但成本昂贵。需要在成本与质量之间寻找平衡点。

这款插件由 lengquan88 维护,实现了双模型自动路由。它支持 Flash 模型直连以降低成本,在必要时自动升级至 Pro 模型,并构建了“逃逸学习闭环”机制,防止错误答案被重复提交。

核心功能

该插件提供以下核心能力:

  1. 六标准路由决策:根据输入内容的长度、上下文、领域覆盖率、规则冲突、置信度及新颖性,生成六个维度的标签,辅助决策。
  2. 模型调用切换:在 dual_model_run 工具中,系统会先尝试调用 deepseek-v4-flash 进行直连;若判断需要升级,则调用 deepseek-v4-pro。若升级调用失败,会自动降级回 Flash 模型并标记为 degraded。
  3. 逃逸学习闭环:通过 dual_model_mark 工具,用户可标记直接结果的正确性。若标记为 correct=false,系统会学习指纹并写入日志,下次遇到相同指纹时强制升级模型,避免再次犯错。
  4. 持久化存储与互通:状态持久化至文件,并兼容 Python dao/model_router.py v2 版本的指纹格式。

安装与启用

安装

在项目目录下执行以下命令安装插件:

pnpm add @lengquan88/dsh-dual-auto

启用

  1. 打开 DSH 项目的配置文件 cordis.patch.yml。
  2. 添加以下内容以注册插件:
- insert:
    - id: dual-auto
      name: '@lengquan88/dsh-dual-auto'
  1. 重启 dsh web 服务。

重启后,以下三个工具将在所有会话中可用:dual_model_route、dual_model_run 和 dual_model_mark。

典型用法

工具说明

  • dual_model_route:执行六标准路由决策,输出六个维度的标签。如果指纹曾被标记为错误,该工具会强制标记为升级。
  • dual_model_run:执行决策与实际模型调用。流程为:先尝试 Flash 模型,若决策为升级则调用 Pro 模型。针对探测任务,系统会自动验证答案是否正确;若直接答案错误,将触发逃逸学习。
  • dual_model_mark:人工标记直接结果的正确性。输入 correct=false 会记录指纹并重写磁盘日志标记,确保下次遇到相同指纹时强制升级。

数据持久化

插件运行时会生成以下文件用于持久化状态:

  • output/dsh_router_fingerprints.json
  • output/dsh_router_stats.json
  • dsh_router_decision_log.jsonl

这些文件格式与 Python 项目的 dao/model_router.py v2 兼容,可直接加载指纹数据。

适用场景与注意

  • 适用场景:适合需要在 DSH 中平衡推理成本与模型质量的开发者。特别是在需要处理大量请求,且部分请求对质量要求极高时,通过逃逸学习闭环可以逐步减少 Pro 模型的调用次数。
  • 依赖与权限:插件依赖 @deepseek-ai/cordis (^4.0.1)。由于插件以当前 dsh 进程权限运行,安装前请检查源码与许可证。

总结

该插件通过自动化的路由决策和逃逸学习机制,解决了 DSH 开发中成本与质量的矛盾。开发者可以专注于业务逻辑,将模型切换与质量校验交由插件处理。更多细节可参考社区目录或源码仓库。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜