dsh-cost-guard:面向 DeepSeek 純 API 的 DSH 成本插件

dsh-cost-guard 是面向 DeepSeek API 使用的 DSH 成本插件,MIT 許可。它專注於成本管控,與路由及人格插件分工明確,提供會話成本覈算、緩存命中率統計及預算硬頂功能。核心特性包括:設置預算後通過 `llm/stream` 短路攔截新請求以停止計費(飛行中請求除外);提供會話級收斂開關以優化表達;實現基於複雜度、峯谷及預算餘量的自動成本路由;支持峯谷感知與錯峯任務隊列,利用空閒時段自動執行任務。此外,插件包含客戶端監控面板、多級預算作用域管理及 `dsh-optab` 子包(用於前綴瘦身與輸出壓縮)。該插件零依賴,不觸碰內部狀態,旨在幫助僅使用 API 的用戶統一查

閱讀全文