在 DeepSeek Harness (DSH) 生态中,llm-pi-ai 提供商适配器提供了基础的模型调用能力,但缺乏直观的配置与管理界面。dsh-model-pro 是一个面向 DSH 的动态 Cordis 插件,它在设置页面新增了「模型 Pro」入口,为 llm-pi-ai 提供商提供全生命周期的管理 UI。
该插件支持提供商的新建与编辑、启用/禁用、远端模型发现、连通性测试、智能路由与组合提供商等操作,并在卸载时保证模型数据零丢失。
核心功能¶
提供商管理¶
插件提供卡片式列表,支持提供商的 CRUD(创建、读取、删除)操作。
- 启用与禁用:支持一键切换状态。禁用的提供商会从模型选择器中隐藏,并移入 disabledProviders 配置段,但配置数据完整保留。
- 字段编辑:可逐项编辑 baseURL、API 协议、apiKeyEnv、displayName 等字段。
- 自定义请求头:支持按提供商自定义 HTTP 请求头,authorization 与 api-key 由适配器自动填充,无需手动维护。
密钥与凭据¶
- 加密存储:在 GUI 中粘贴的 API Key 会以 AES-256-GCM 算法加密后写入配置文件,同时存入 DSH 凭据服务。
- 按需解密:配置文件中仅存储密文,默认掩码显示,点击「显示已存」可解密查看。
模型管理¶
- 远端模型发现:支持通过
GET /models拉取远端模型列表,并提供全选、取消全选与反选功能。 - 批量写入:支持将选中的模型「替换」或「合并」到提供商的显式模型列表中。
- 转发名映射:可为特定模型设置本地转发名,选它时实际向 Provider 发送映射后的模型名。
连通性测试¶
在「测试」页面,对选定模型发起一次真实的推理请求。该测试会走完整的凭据验证、请求头注入与协议链路,返回延迟、停止原因与实际回复内容,用于在依赖模型前确认其可用性。
智能路由与组合¶
- 智能路由:支持聚合多个 Provider 的模型,提供 5 种路由策略:
priority(顺序优先+回退)、weighted(权重随机)、round-robin(平滑加权轮询)、min-latency(历史低延迟优先)、sticky(会话粘滞)。支持设置权重、启用开关、健康感知与回退次数。 - 无感切换:当首选目标不可达(连接拒绝、HTTP 错误、空响应或超时)时,系统会自动切换至下一个目标,整个过程对对话无感知。
- 组合提供商:支持将多个 Provider 的模型合并成一个虚拟 Provider,支持并集与交集两种模式,交集模式非常适合同款模型的多上游互备。
观测与健康¶
- 探活:对每个目标(Provider + Model)发起最小请求,标记
up、down、probing状态及连续失败次数,健康感知会自动跳过 Down 状态的目标。 - 观测台:提供会话内请求日志(路由 → 目标、延迟、Token)与聚合统计(调用次数、成功率、平均延迟、Token 合计)。
- 对话徽章:可开启开关,在每个回合下方显示实际选中的 Provider/Model,发生自动切换时标注「已无感切换」。
安装与启用¶
DSH 的插件管理命令会转发给 pnpm,安装时需指定 Profile(Web GUI 通常是 web)。
从 npm 安装(推荐):
dsh plugin --profile web add npm:dsh-model-pro
注意:必须带
npm:前缀。registry 上的包已预置dist/,安装时不会触发构建脚本。若省略前缀,pnpm 可能将其解析为 git 源,导致执行构建脚本被拦截。
安装完成后,重新打开 DSH Web GUI,在左侧「设置」中即可看到「模型 Pro」入口。
典型用法¶
- 新建提供商:进入「模型 Pro」,点击右上角「新增提供商」,按 3 步向导填写命名、连接信息与凭据。
- 拉取模型:进入「模型」标签页,点击「获取远端模型」,勾选需要的模型,选择「替换为选中」或「合并选中」。
- 连通性测试:在「测试」标签页选择模型,点击「运行测试」,确认延迟与回复内容。
- 配置路由:在「智能路由 → 路由台」新建命名路由,添加目标并配置策略与权重。
- 组合能力:在「组合提供商」页选择多个 Provider,选择并集或交集模式,在模型选择器中以
composite / 组合名::模型的形式使用。 - 观测与探活:在「探活」页更新目标健康状态,在「观测台」查看统计与日志。
注意事项¶
- 卸载安全:卸载插件时会自动将
disabledProviders中的每个提供商原样还原回providers,确保配置数据不丢失。 - 密钥管理:加密的主密钥存于凭据服务且永不重新生成,因此重装插件后旧的密文仍可解密。
- 权限与源码:插件在 DSH 进程权限下运行,安装前建议检查源码与许可证。
总结¶
dsh-model-pro 通过提供可视化的管理界面与丰富的编排能力,解决了 llm-pi-ai 提供商配置繁琐、缺乏测试与监控手段的问题。它支持从基础的 CRUD 到复杂的智能路由与组合,能够帮助开发者更安全、高效地管理多模型调用链路。