dsh-provider-rate-limit:DeepSeek Harness 按供應商/模型粒度的限速與網關僞裝插件

DeepSeek Harness 插件 dsh-provider-rate-limit 旨在解決 LLM 流量按供應商和模型粒度限速、管理 API 配額及應對網關身份校驗的運維難題。該插件基於 Token Bucket 算法,支持突發流量處理與 FIFO 機制,提供 wait/reject 雙模式響應。此外,它具備網關身份僞裝能力,通過 URL 匹配重寫 User-Agent,並支持熱重載配置、實時統計及高性能路由查找。開發者可在 Composer Dock 中查看限流數據,確保服務穩定運行。

閱讀全文
DeepSeek Harness 主動限速插件:dsh-rate-limiter

dsh-rate-limiter 是 Xidong-AI 維護的預防性限速插件,旨在解決 DeepSeek Harness 開發中的 API 速率限制問題。它通過令牌桶算法在請求發出前控制頻率,令牌不足時請求會進入延遲隊列而非被拒絕,從而避免 429 錯誤。該插件具有零侵入、支持信號中斷、無第三方依賴以及與重試插件兼容等特性。用戶可通過 npm 安裝,並在配置文件中按供應商定義 `rate`(平均速率)和 `burst`(突發容量)參數。

閱讀全文