DeepSeek Harness (DSH) 采用插件化架构,允许开发者通过插件扩展功能。在模型推理和配置管理方面,原有的内置条目(如 llm-pi-ai 和 llm-deepseek)存在更新滞后、缺乏配额可视化和模型选择灵活性等问题。dsh-llm-provider 插件针对这些痛点进行了增强。
插件简介¶
dsh-llm-provider 是由维护者 imchangchang 开发的插件,定位为 DSH 的 LLM 提供商插件。它接管了 DSH 内置的多个条目,并提供自维护的 pi-ai 桥接、配额查询以及可视化的模型选择和设置界面。
核心功能¶
该插件主要提供以下能力:
- 替换内置条目:接管
llm-pi-ai、llm-deepseek、ui-model-selection以及ui-settings-models四个条目。 - 自维护 pi-ai 桥接:独立维护 pi-ai SDK,能够跟随上游更新,无需等待 DSH 的官方版本发布。
- 配额查询:支持查询每个提供商的余额和用量窗口,并在界面中展示。
- 模型选择器:提供带有提供商过滤、功能徽章和模型详情卡片的模型选择器。
- 服务商设置:提供可视化的提供商管理页面,支持添加、移除、测试和刷新服务商。
安装与启用¶
确保你的 DSH 版本为 0.1.6-alpha.1 或更新版本(包含 0.2 系列)。
在终端中执行以下命令安装插件:
dsh plugin --profile web add @dsh-one/dsh-llm-provider
安装后必须重启 dsh web 进程,因为插件的插件树结构发生了变化,刷新网页无法加载新代码。
典型用法¶
安装并重启后,进入设置页面进行配置:
- 进入
设置->模型服务->服务商。 - 插件会自动声明一个 DeepSeek 路由。新安装时,DeepSeek 卡片默认为空,点击展开后填写 API 密钥。
- 对于其他提供商,点击
+ 添加供应商,选择预设、填写端点和密钥,通过测试后保存。 - 保存后,卡片将显示余额信息,模型选择器也会同步显示该提供商的配额快照。
注意事项¶
- 中文界面:目前插件仅提供中文 UI,暂无英文界面。
- 重启机制:升级已安装的插件时,必须重启 DSH 进程才能生效,单纯刷新页面是不够的。
- 依赖说明:发布包中不包含 vendor 目录。如果目录缺失,表示插件未安装,而非版本不兼容。
- 路由声明:内置的
llm-deepseek条目已被禁用,DeepSeek 路由由该插件在配置中声明。
总结¶
dsh-llm-provider 为 DSH 用户提供了更贴近上游的模型支持、可视化的配额管理以及更灵活的模型配置方式。相关源码及文档可参考项目仓库。