dsh-llm-governor:DeepSeek Harness 的多模型治理插件
`dsh-llm-governor` 是 DeepSeek Harness (DSH) 的一个插件,旨在解决多模型部署中的选路分散、额度管理及审计困难等问题。它提供模型画像、用户访问控制、月度 Credits、多种路由策略、失败重路由及审计能力。插件作为决策层与 DSH 协同工作,不代理请求或管理凭证。支持 Auto、质量优先等多种路由模式,并可通过插件形式集成安装,适用于需要精细化管理与多租户场景的部署。
阅读全文