DeepSeek Harness (DSH) 生態中已有 dsh-token-meter 用於統計 Token 使用量,但這只是一個計數器。當項目進入生產階段,開發者需要控制預算、設置閾值並在超支時採取行動(如通知或阻斷請求)。dsh-cost-governor 旨在解決這個問題。它作爲上層預算守護者,利用 DSH 官方的 sessionProjections 接口,將離散的 Token 桶轉化爲金額,並執行預算策略。
核心功能¶
按模型成本覈算¶
插件基於官方 sessionProjections 接口實現成本覈算。這確保了數據在日誌壓縮和冷讀時保持準確,並且當你修改價格表時,歷史記錄會自動重新計價。它支持按模型維度統計,並將 Token 桶細分爲輸入、輸出、緩存讀寫和推理等部分。
多提供商價格目錄¶
內置了 DeepSeek、OpenAI、Anthropic、Google、xAI、Qwen、GLM、Moonshot 等提供商的價格目錄。支持爲不同提供商配置獨立的緩存讀寫和推理費率,所有價格均可手動覆蓋。
預算治理策略¶
支持日、周、月或無限週期的預算設定。
* 軟閾值:warnRatio。當支出達到設定比例(默認 0.8)時觸發警告。
* 硬閾值:hardRatio。當支出達到設定比例(默認 1.0)時觸發硬性限制。
* 執行動作:hardAction 支持三種模式:僅通知(notify-only)、阻斷新請求(block-new-requests)或轉向更便宜的模型(steer-to-cheaper-model)。
通知與儀表盤¶
- Webhook 通知:支持在閾值觸發時發送通知,支持 Slack 風格、飛書和釘釘格式。
- 可視化儀表盤:路徑爲
Settings → Usage & Cost。提供 KPI 卡片、動畫預算條、按模型分列的支出表格、每日支出圖表以及 CSV 導出功能。 - 側邊欄 HUD:在側邊欄提供緊湊的環形預算指示器。
安裝與啓用¶
- 安裝插件:
npm i -g dsh-cost-governor
- 在 DSH 的
cordis.yml配置文件中添加插件節點。配置包含貨幣類型、預算週期、金額、閾值比例及動作。
- name: dsh-cost-governor
config:
currency: USD
budget:
period: monthly # daily | weekly | monthly | unlimited
budgetUsd: 20 # 週期內的預算上限
warnRatio: 0.8 # 軟閾值:80% 時警告
hardRatio: 1.0 # 硬閾值:100% 時執行動作
hardAction: notify-only # notify-only | block-new-requests | steer-to-cheaper-model
notifyWebhook: "" # 可選的 Webhook 地址
- 重啓 DSH 服務。儀表盤將出現在設置頁面的
Usage & Cost菜單下。
注意事項¶
- 計費範圍:插件僅計算最終
assistant/message的使用量。如果請求在組裝消息前失敗,其輸入消耗不計入統計(儘管提供商通常會收取該費用)。 - 價格準確性:內置目錄中的價格爲社區佔位符,使用前需覈對各提供商的官方定價。
- 集成驗證:
block-new-requests和steer-to-cheaper-model需要根據官方 DSH 插件文檔進行集成驗證,確保與 LLM 請求流程正確對接。
概覽¶
- 項目名稱:yushuosun/dsh-cost-governor
- 維護者:yushuosun
- 許可證:MIT
- GitHub:https://github.com/yushuosun/dsh-cost-governor