dsh-freeroute:DSH 的免費模型聚合與故障轉移插件

DSH(DeepSeek Harness)採用插件化架構。開發者在使用智能體時,常需調用付費模型或管理多個免費模型源的密鑰與容災。下面介紹 dsh-freeroute,它解決了這些痛點。

這是什麼

dsh-freeroute 是 DeepSeek Harness 的免費模型聚合插件。由用戶 dushaobindoudou 維護。它註冊 freeroute 模型提供者,支持自動故障轉移和固定模型。

核心功能

該插件具備以下能力:

  1. 註冊 freeroute 模型提供者(支持自動故障轉移和固定模型)。
  2. 多鍵輪換與密鑰失效可見性。
  3. 本地 OpenAI 兼容端點。
  4. 在首個 token 到達前自動故障轉移。
  5. 處理 rate limits 和密鑰失效。

安裝與啓用

在安裝前,請確保環境滿足以下要求:Node.js ≥ 18。

運行以下命令安裝插件:

dsh plugin --profile web add dsh-freeroute

典型用法

安裝完成後,可通過以下方式使用:

  1. 配置 API 密鑰即可運行。
  2. 使用本地端點進行測試:
curl http://127.0.0.1:3080/freeroute/v1/chat/completions
  1. 在代碼中註冊適配器:
llm.registerAdapter(['freeroute'], adapter)

注意事項

使用該插件時需注意以下幾點:

  • 免費僅指提供商的合法免費層級,非共享賬號池。
  • 密鑰僅存儲在憑證服務中,不在配置文件中明文存儲。
  • 插件以當前 DSH 進程權限運行。

總結

dsh-freeroute 通過聚合免費層級的模型源,簡化了配置流程並提供了容災能力。更多細節可查閱 插件目錄 或 GitHub 倉庫。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜