dsh-provider-rate-limit:DeepSeek Harness 按供應商/模型粒度的限速與網關僞裝插件

DeepSeek Harness 插件 dsh-provider-rate-limit 旨在解決 LLM 流量按供應商和模型粒度限速、管理 API 配額及應對網關身份校驗的運維難題。該插件基於 Token Bucket 算法,支持突發流量處理與 FIFO 機制,提供 wait/reject 雙模式響應。此外,它具備網關身份僞裝能力,通過 URL 匹配重寫 User-Agent,並支持熱重載配置、實時統計及高性能路由查找。開發者可在 Composer Dock 中查看限流數據,確保服務穩定運行。

閱讀全文