DeepSeek Harness 插件:LLM 調用限速器

`dsh-llm-rate-limiter` 是 DeepSeek Harness 的一個插件,用於解決 LLM 接口調用中觸發 API 速率限制或資源過度佔用的問題。該插件支持按模型獨立配置併發數、RPM 和突發流量限制,提供令牌桶和滑動窗口兩種限流算法,以及隊列或拒絕兩種處理策略。它具備交互式 GUI 配置面板、實時狀態監控和熱重載功能,無需編輯文件即可調整策略,適合需要在 DSH 環境下精細化控制 LLM 調用頻率的開發者。

閱讀全文