前言¶
在使用 DeepSeek Harness(DSH)進行模型推理時,追蹤 Token 消耗和成本是控制支出的關鍵。本插件通過讀取本地會話日誌,提供了一種本地化的用量統計方案,不依賴任何在線服務,直接在 DSH 環境內展示數據。
定位¶
dsh-token 是一個由 fufuf-c 維護的本地 Token 用量統計儀表盤插件,屬於模型推理類別。它解決了“只回答花了多少錢、用了多少量”的單一問題,進一步提供“Token 從哪來、緩存省了多少、哪些會話在燒 Token”的詳細視角。
核心能力¶
1. 四段 Token 構成與緩存省錢¶
插件將 Token 消耗拆分爲四個維度:未命中、緩存命中、緩存寫入和輸出。通過區分這四段,不僅能看到總量,還能直觀看到緩存命中帶來的成本節省。
2. 全局篩選與會話下鑽¶
- 全局篩選:支持按時間(今天/3天/7天/30天/自定義)、模型、會話、工作目錄進行篩選,支持 URL 分享篩選條件。
- 會話下鑽:在會話詳情中提供四聯統計、逐模型構成、逐請求明細以及上下文增長曲線。界面會標記異常激增的請求,並支持通過
?session=深鏈直接定位。
3. 成本與預算控制¶
- 內置價目:內置 DeepSeek 官方價目表,支持高峯/空閒分檔和時段修改。
- 預算監控:提供月度預算環形進度條,支持設置 80% 和 100% 的閾值警報,並支持按模型或會話歸因成本。
4. 數據安全與界面¶
- 零上傳、無在線依賴:所有數據均來自本地
$DSH_HOME/sessions,經 DSH 官方sessionPersistence服務解碼,不涉及任何數據上傳。 - 界面設計:採用 Apple 風格的四 Tab 界面,包含多模型疊加趨勢圖、日/周/月粒度切換、24 桶小時直方圖以及活躍度月曆熱力圖。
安裝與使用¶
通過插件目錄或 GitHub 倉庫安裝。安裝後,插件會在側邊欄、對話區域上方和設置頁提供三個獨立入口,分別對應全局面板、本會話面板和設置信息。
典型用法:
1. 打開儀表盤,默認展示全局 Token 用量趨勢。
2. 使用全局篩選(如時間或模型)快速定位高消耗會話。
3. 點擊會話進入詳情,查看上下文增長曲線和緩存命中情況。
4. 在設置頁配置月度預算,監控成本閾值。
注意事項¶
- 成本計算邏輯:對於無內置價且無自定義價的模型,其成本計爲 0。此時估算成本顯示爲“已定價部分的成本 + 未定價 token 數”,而非完整賬單。
- 數據持久化:持久化存儲在
$DSH_HOME/dsh-token/下,包含元數據文件store.json和分片記錄文件shards/。若store.json損壞,插件不會靜默清零,而是將其重命名爲store.json.corrupt-<時間戳>並進行備份。 - 兼容性與容錯:插件支持跨 DSH 版本自適應,採用失敗會話隔離機制,對冷卻窗口內的老日誌進行跳過處理,確保掃描穩定性。
- 運行權限:插件以 DSH 進程權限運行,安裝前請檢查源碼與許可證(MIT)。
總結¶
dsh-token 專注於提供本地化的、細粒度的 Token 成本分析能力。通過四段式構成拆解和預算管理功能,幫助開發者更清晰地掌握推理成本,適合需要精細化控制 Token 消耗的 DSH 用戶。