DSH Smart Model Router:DeepSeek Harness 的可配置智能模型路由插件

前言

在 DeepSeek Harness (DSH) 的插件化架构中,当需要同时对接多个模型提供商或实现特定场景下的自动切换时,手动配置往往效率低下。下面介绍一个插件,旨在通过自动化分类与路由机制简化这一流程。

插件定位

dreamzhongju/dsh-smart-model-router 是一个由 DreamZhongJu 维护的 DSH 插件包,旨在提供智能模型路由功能。它能够对请求进行分类,并将其路由至已配置的提供商/模型组合,同时支持按顺序的技术故障转移。

核心功能

  • 智能路由与分类:根据请求特征,将其分发至预设的模型配置对。
  • 有序故障转移:当主模型不可用或出错时,自动按顺序尝试备选模型,直到成功或所有选项耗尽。
  • 本地目录读取:插件直接读取 DSH 本地的提供商/模型目录,不进行网络模型发现。
  • 模式控制:在非手动模式下启用时,DSH 的模型选择器将被锁定,选择权由配置的路由规则接管。
  • 凭证隔离:所有提供商的凭证均存储在 DSH 的凭证服务中,该插件本身不持有或存储任何凭证信息。

安装与启用

  1. 执行安装命令:
    dsh plugin --profile web add github:DreamZhongJu/dsh-smart-model-router
  1. 启动 DSH:
    dsh --profile web
  1. 在 DSH 的设置界面中找到 Plugins,启用 Smart model router。
  2. 参考 config.example.yaml 文件进行完整的路由配置。

典型用法

配置文件定义了请求如何被分类以及路由到哪个模型。启用插件后,系统将根据配置自动处理请求分发,无需人工干预模型选择(在非手动模式下)。

适用场景与注意事项

  • 适用对象:需要统一管理多模型提供商、或希望实现特定任务自动匹配模型的企业级与开发者用户。
  • 权限与安全:插件在 DSH 进程权限范围内运行。请确保在安装前检查源码与许可证(MIT)。
  • 网络限制:由于依赖本地目录,请确保 DSH 已正确配置并加载了所需的模型提供商信息。

结语

该插件通过集成到 DSH 生态,提供了模型路由的标准化解决方案,适合需要精细化控制模型调用策略的场景。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜