dsh-freeroute:DSH 的免费模型聚合与故障转移插件

DSH(DeepSeek Harness)采用插件化架构。开发者在使用智能体时,常需调用付费模型或管理多个免费模型源的密钥与容灾。下面介绍 dsh-freeroute,它解决了这些痛点。

这是什么

dsh-freeroute 是 DeepSeek Harness 的免费模型聚合插件。由用户 dushaobindoudou 维护。它注册 freeroute 模型提供者,支持自动故障转移和固定模型。

核心功能

该插件具备以下能力:

  1. 注册 freeroute 模型提供者(支持自动故障转移和固定模型)。
  2. 多键轮换与密钥失效可见性。
  3. 本地 OpenAI 兼容端点。
  4. 在首个 token 到达前自动故障转移。
  5. 处理 rate limits 和密钥失效。

安装与启用

在安装前,请确保环境满足以下要求:Node.js ≥ 18。

运行以下命令安装插件:

dsh plugin --profile web add dsh-freeroute

典型用法

安装完成后,可通过以下方式使用:

  1. 配置 API 密钥即可运行。
  2. 使用本地端点进行测试:
curl http://127.0.0.1:3080/freeroute/v1/chat/completions
  1. 在代码中注册适配器:
llm.registerAdapter(['freeroute'], adapter)

注意事项

使用该插件时需注意以下几点:

  • 免费仅指提供商的合法免费层级,非共享账号池。
  • 密钥仅存储在凭证服务中,不在配置文件中明文存储。
  • 插件以当前 DSH 进程权限运行。

总结

dsh-freeroute 通过聚合免费层级的模型源,简化了配置流程并提供了容灾能力。更多细节可查阅 插件目录 或 GitHub 仓库。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜