dsh-offpeak:DSH 宿主插件,用於自動管理高峯期會話與請求
dsh-offpeak 是 DeepSeek Harness 的核心插件,旨在 API 高峯期攔截請求以避免限流失敗。插件在請求發出前攔截目標爲官方源或顯式列出的模型請求,支持回合門控與請求級守衛。它提供峯谷策略配置、會話暢跑豁免功能,並通過 Web 面板管理攔截列表、時區及高峯時段。兼容 DSH 宿主版本,支持 hold 掛起或 error 拋出,需 Node.js >= 20。
閱讀全文DeepSeek Harness 插件:LLM 調用限速器
`dsh-llm-rate-limiter` 是 DeepSeek Harness 的一個插件,用於解決 LLM 接口調用中觸發 API 速率限制或資源過度佔用的問題。該插件支持按模型獨立配置併發數、RPM 和突發流量限制,提供令牌桶和滑動窗口兩種限流算法,以及隊列或拒絕兩種處理策略。它具備交互式 GUI 配置面板、實時狀態監控和熱重載功能,無需編輯文件即可調整策略,適合需要在 DSH 環境下精細化控制 LLM 調用頻率的開發者。
閱讀全文DeepSeek Harness 插件 dsh-llm-rate-limit 介紹
`dsh-llm-rate-limit` 是 DeepSeek Harness 的一個插件,旨在通過令牌桶算法和 FIFO 隊列管理,解決智能體或後臺任務並行調用時的 429 限流問題。 該插件支持請求與併發控制、代幣預算管理、自適應冷卻及流量分流。通過配置文件可精細化控制不同提供商的頻率、併發數及隊列行爲。注意,插件基於進程本地狀態,不提供分佈式配額或自動重試功能。
閱讀全文@zhourenke/dsh-agent-rate-limit:爲 DSH 自動添加 TPM/RPM 速率限制
DSH Agent 循環易超限導致 429 錯誤。`@zhourenke/dsh-agent-rate-limit` 插件在 LLM 流式管線前插入自適應延遲層,利用滑動窗口算法管理請求隊列,在觸發供應商限速前進行排隊,避免對話中斷。該插件默認配置即可使用,支持 TPM/RPM 限制、安全係數調節及配置熱重載,但窗口狀態不共享且不保證絕對不撞限。
閱讀全文