dsh-provider-rate-limit:DeepSeek Harness 按供应商/模型粒度的限速与网关伪装插件
DeepSeek Harness 插件 dsh-provider-rate-limit 旨在解决 LLM 流量按供应商和模型粒度限速、管理 API 配额及应对网关身份校验的运维难题。该插件基于 Token Bucket 算法,支持突发流量处理与 FIFO 机制,提供 wait/reject 双模式响应。此外,它具备网关身份伪装能力,通过 URL 匹配重写 User-Agent,并支持热重载配置、实时统计及高性能路由查找。开发者可在 Composer Dock 中查看限流数据,确保服务稳定运行。
阅读全文DeepSeek Harness 主动限速插件:dsh-rate-limiter
dsh-rate-limiter 是 Xidong-AI 维护的预防性限速插件,旨在解决 DeepSeek Harness 开发中的 API 速率限制问题。它通过令牌桶算法在请求发出前控制频率,令牌不足时请求会进入延迟队列而非被拒绝,从而避免 429 错误。该插件具有零侵入、支持信号中断、无第三方依赖以及与重试插件兼容等特性。用户可通过 npm 安装,并在配置文件中按供应商定义 `rate`(平均速率)和 `burst`(突发容量)参数。
阅读全文