DeepSeek Harness 通用网关模型插件

DeepSeek Harness (DSH) 默认提供针对官方模型的适配器。当模型托管在 NewAPI、LiteLLM、Higress 或任何 OpenAI 兼容网关后端时,通常需要手动维护静态模型列表,并猜测上下文窗口和输出上限等参数。该插件允许用户直接将网关挂载为提供商路由,省去了手动维护的步骤。

这是什么

dsh-gateway-provider 是一个通用的 LLM 网关提供商插件,由 Luck9Star 维护。它将 NewAPI、LiteLLM、Higress 或任何 OpenAI 兼容网关挂载为提供商路由,支持在 DeepSeek Harness 中使用这些网关后的模型。

核心功能

  • 挂载网关路由:将 NewAPI / LiteLLM / Higress / 任何 OpenAI 兼容网关作为提供商路由挂载。
  • 自动发现模型:从网关 API 自动发现模型列表。
  • 参数丰富:从 models.dev 获取真实参数(上下文窗口、输出上限、推理支持)来丰富模型信息。
  • 原生协议分发:通过 pi-ai SDK,使用原生协议(OpenAI / Anthropic / Gemini)分发请求。
  • 多网关支持:支持同时使用多个网关,每个网关拥有独立的路由和密钥。
  • Web UI 配置:提供设置页面 UI 进行配置,无需编辑 YAML 文件。

安装与启用

  1. 安装插件:
    dsh plugin --profile web add dsh-gateway-provider
  1. 存储密钥(推荐方式):
    echo "NEWAPI_API_KEY: sk-REPLACE_WITH_YOUR_KEY" >> ~/.dsh/.credentials.yaml
  1. 重启并打开设置:
    dsh --profile web
导航至 **Settings → Gateway Models**。

典型用法

在设置页面的 Gateway Models 中,添加网关。选择模板(NewAPI / LiteLLM / Higress / OpenAI 兼容 / 完全自定义),输入网关地址,配置密钥变量,点击 Test 测试连接,最后点击 Sync 同步模型列表。

适用场景与注意

  • 运行环境:需要 DeepSeek Harness (dsh) 带有 web profile,因为设置页面是基于 Web UI 的扩展;提供程序本身可在任何 profile 下运行。
  • 密钥存储:需要网关 API 密钥。密钥存储在 dsh 的凭证存储中(~/.dsh/.credentials.yaml)。
  • 权限注意:插件以当前 dsh 进程的权限运行。

总结

该插件通过挂载网关和自动参数发现,解决了在 DSH 中使用第三方网关模型时手动维护配置繁琐且参数不准的问题。更多详情请参考插件目录或GitHub 仓库。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜