dsh-cost-guard:面向 DeepSeek 纯 API 的 DSH 成本插件

dsh-cost-guard 是面向 DeepSeek API 使用的 DSH 成本插件,MIT 许可。它专注于成本管控,与路由及人格插件分工明确,提供会话成本核算、缓存命中率统计及预算硬顶功能。核心特性包括:设置预算后通过 `llm/stream` 短路拦截新请求以停止计费(飞行中请求除外);提供会话级收敛开关以优化表达;实现基于复杂度、峰谷及预算余量的自动成本路由;支持峰谷感知与错峰任务队列,利用空闲时段自动执行任务。此外,插件包含客户端监控面板、多级预算作用域管理及 `dsh-optab` 子包(用于前缀瘦身与输出压缩)。该插件零依赖,不触碰内部状态,旨在帮助仅使用 API 的用户统一查

阅读全文