dsh-llm-pool:在 DeepSeek Harness 裏用統一模型池做粘性路由與自動 failover

dsh-llm-pool 是 lyingloong 爲 DeepSeek Harness 開發的模型推理插件,將多個真實 LLM 渠道組合爲虛擬服務商,支持會話粘性分配、全局負載均衡、能力合併映射與失敗前自動 failover。可通過 npm 或 GitHub 安裝,在設置→模型底部配置池成員與模型映射。面向 DSH 0.2.1-rc.5,MIT 許可;安裝與測試會佔用當前 Host 權限並可能產生真實計費調用,使用前請覈對源碼與許可證。

閱讀全文