前言¶
在 DeepSeek Harness (DSH) 的插件化架构中,当需要同时对接多个模型提供商或实现特定场景下的自动切换时,手动配置往往效率低下。下面介绍一个插件,旨在通过自动化分类与路由机制简化这一流程。
插件定位¶
dreamzhongju/dsh-smart-model-router 是一个由 DreamZhongJu 维护的 DSH 插件包,旨在提供智能模型路由功能。它能够对请求进行分类,并将其路由至已配置的提供商/模型组合,同时支持按顺序的技术故障转移。
核心功能¶
- 智能路由与分类:根据请求特征,将其分发至预设的模型配置对。
- 有序故障转移:当主模型不可用或出错时,自动按顺序尝试备选模型,直到成功或所有选项耗尽。
- 本地目录读取:插件直接读取 DSH 本地的提供商/模型目录,不进行网络模型发现。
- 模式控制:在非手动模式下启用时,DSH 的模型选择器将被锁定,选择权由配置的路由规则接管。
- 凭证隔离:所有提供商的凭证均存储在 DSH 的凭证服务中,该插件本身不持有或存储任何凭证信息。
安装与启用¶
- 执行安装命令:
dsh plugin --profile web add github:DreamZhongJu/dsh-smart-model-router
- 启动 DSH:
dsh --profile web
- 在 DSH 的设置界面中找到 Plugins,启用 Smart model router。
- 参考
config.example.yaml文件进行完整的路由配置。
典型用法¶
配置文件定义了请求如何被分类以及路由到哪个模型。启用插件后,系统将根据配置自动处理请求分发,无需人工干预模型选择(在非手动模式下)。
适用场景与注意事项¶
- 适用对象:需要统一管理多模型提供商、或希望实现特定任务自动匹配模型的企业级与开发者用户。
- 权限与安全:插件在 DSH 进程权限范围内运行。请确保在安装前检查源码与许可证(MIT)。
- 网络限制:由于依赖本地目录,请确保 DSH 已正确配置并加载了所需的模型提供商信息。
结语¶
该插件通过集成到 DSH 生态,提供了模型路由的标准化解决方案,适合需要精细化控制模型调用策略的场景。