dsh-localforge: 连接 DeepSeek Harness 与本地 LLM 服务器
`dsh-localforge` 是 DeepSeek Harness 的高性能本地模型适配器插件,支持 LM Studio 及 OpenAI/Anthropic 兼容端点。它解决了本地模型并发控制与容错难题,具备模型发现缓存、自动加载、并发限制、推理预算、采样预设及 Prometheus 监控等功能。插件通过插件机制直接调用本地算力,在 DSH Web 界面启用后,即可通过配置文件连接本地服务器,实现无需 API 余额的模型推理。
阅读全文