DeepSeek Harness 插件:LLM 调用限速器
`dsh-llm-rate-limiter` 是 DeepSeek Harness 的一个插件,用于解决 LLM 接口调用中触发 API 速率限制或资源过度占用的问题。该插件支持按模型独立配置并发数、RPM 和突发流量限制,提供令牌桶和滑动窗口两种限流算法,以及队列或拒绝两种处理策略。它具备交互式 GUI 配置面板、实时状态监控和热重载功能,无需编辑文件即可调整策略,适合需要在 DSH 环境下精细化控制 LLM 调用频率的开发者。
阅读全文