dsh-llm-pool: Sticky Routing and Automatic Failover with a Unified Model Pool in DeepSeek Harness

dsh-llm-pool 是 lyingloong 为 DeepSeek Harness 开发的模型推理插件,将多个真实 LLM 渠道组合为虚拟服务商,支持会话粘性分配、全局负载均衡、能力合并映射与失败前自动 failover。可通过 npm 或 GitHub 安装,在设置→模型底部配置池成员与模型映射。面向 DSH 0.2.1-rc.5,MIT 许可;安装与测试会占用当前 Host 权限并可能产生真实计费调用,使用前请核对源码与许可证。

Read More