DSH(DeepSeek Harness)採用插件化架構。開發者在使用智能體時,常需調用付費模型或管理多個免費模型源的密鑰與容災。下面介紹 dsh-freeroute,它解決了這些痛點。
這是什麼¶
dsh-freeroute 是 DeepSeek Harness 的免費模型聚合插件。由用戶 dushaobindoudou 維護。它註冊 freeroute 模型提供者,支持自動故障轉移和固定模型。
核心功能¶
該插件具備以下能力:
- 註冊 freeroute 模型提供者(支持自動故障轉移和固定模型)。
- 多鍵輪換與密鑰失效可見性。
- 本地 OpenAI 兼容端點。
- 在首個 token 到達前自動故障轉移。
- 處理 rate limits 和密鑰失效。
安裝與啓用¶
在安裝前,請確保環境滿足以下要求:Node.js ≥ 18。
運行以下命令安裝插件:
dsh plugin --profile web add dsh-freeroute
典型用法¶
安裝完成後,可通過以下方式使用:
- 配置 API 密鑰即可運行。
- 使用本地端點進行測試:
curl http://127.0.0.1:3080/freeroute/v1/chat/completions
- 在代碼中註冊適配器:
llm.registerAdapter(['freeroute'], adapter)
注意事項¶
使用該插件時需注意以下幾點:
- 免費僅指提供商的合法免費層級,非共享賬號池。
- 密鑰僅存儲在憑證服務中,不在配置文件中明文存儲。
- 插件以當前 DSH 進程權限運行。
總結¶
dsh-freeroute 通過聚合免費層級的模型源,簡化了配置流程並提供了容災能力。更多細節可查閱 插件目錄 或 GitHub 倉庫。