dsh-token:DSH 本地 Token 用量統計插件

前言

在使用 DeepSeek Harness(DSH)進行模型推理時,追蹤 Token 消耗和成本是控制支出的關鍵。本插件通過讀取本地會話日誌,提供了一種本地化的用量統計方案,不依賴任何在線服務,直接在 DSH 環境內展示數據。

定位

dsh-token 是一個由 fufuf-c 維護的本地 Token 用量統計儀表盤插件,屬於模型推理類別。它解決了“只回答花了多少錢、用了多少量”的單一問題,進一步提供“Token 從哪來、緩存省了多少、哪些會話在燒 Token”的詳細視角。

核心能力

1. 四段 Token 構成與緩存省錢

插件將 Token 消耗拆分爲四個維度:未命中、緩存命中、緩存寫入和輸出。通過區分這四段,不僅能看到總量,還能直觀看到緩存命中帶來的成本節省。

2. 全局篩選與會話下鑽

  • 全局篩選:支持按時間(今天/3天/7天/30天/自定義)、模型、會話、工作目錄進行篩選,支持 URL 分享篩選條件。
  • 會話下鑽:在會話詳情中提供四聯統計、逐模型構成、逐請求明細以及上下文增長曲線。界面會標記異常激增的請求,並支持通過 ?session= 深鏈直接定位。

3. 成本與預算控制

  • 內置價目:內置 DeepSeek 官方價目表,支持高峯/空閒分檔和時段修改。
  • 預算監控:提供月度預算環形進度條,支持設置 80% 和 100% 的閾值警報,並支持按模型或會話歸因成本。

4. 數據安全與界面

  • 零上傳、無在線依賴:所有數據均來自本地 $DSH_HOME/sessions,經 DSH 官方 sessionPersistence 服務解碼,不涉及任何數據上傳。
  • 界面設計:採用 Apple 風格的四 Tab 界面,包含多模型疊加趨勢圖、日/周/月粒度切換、24 桶小時直方圖以及活躍度月曆熱力圖。

安裝與使用

通過插件目錄或 GitHub 倉庫安裝。安裝後,插件會在側邊欄、對話區域上方和設置頁提供三個獨立入口,分別對應全局面板、本會話面板和設置信息。

典型用法:
1. 打開儀表盤,默認展示全局 Token 用量趨勢。
2. 使用全局篩選(如時間或模型)快速定位高消耗會話。
3. 點擊會話進入詳情,查看上下文增長曲線和緩存命中情況。
4. 在設置頁配置月度預算,監控成本閾值。

注意事項

  • 成本計算邏輯:對於無內置價且無自定義價的模型,其成本計爲 0。此時估算成本顯示爲“已定價部分的成本 + 未定價 token 數”,而非完整賬單。
  • 數據持久化:持久化存儲在 $DSH_HOME/dsh-token/ 下,包含元數據文件 store.json 和分片記錄文件 shards/。若 store.json 損壞,插件不會靜默清零,而是將其重命名爲 store.json.corrupt-<時間戳> 並進行備份。
  • 兼容性與容錯:插件支持跨 DSH 版本自適應,採用失敗會話隔離機制,對冷卻窗口內的老日誌進行跳過處理,確保掃描穩定性。
  • 運行權限:插件以 DSH 進程權限運行,安裝前請檢查源碼與許可證(MIT)。

總結

dsh-token 專注於提供本地化的、細粒度的 Token 成本分析能力。通過四段式構成拆解和預算管理功能,幫助開發者更清晰地掌握推理成本,適合需要精細化控制 Token 消耗的 DSH 用戶。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜