dsh-context-governor:DeepSeek Harness 會話上下文與成本監控

前言

在 DeepSeek Harness (DSH) 中進行會話開發時,上下文窗口的邊界和實際 token 成本往往是模糊的。開發者需要直觀的上下文概覽和成本估算,以便在壓縮或重試前做出判斷。dsh-context-governor 插件提供了會話級別的上下文芯片,實時展示提示詞大小、緩存命中率和成本倍數。

插件定位

dsh-context-governor 是一個 DeepSeek Harness 插件,作爲會話上下文指示器。它不生成內容,僅通過讀取 DSH 的投影數據、計算並展示會話的關鍵指標。

核心功能

該插件提供以下數據展示:

  1. 成本與尺寸

    • 提示詞大小(未緩存輸入 + 緩存 token)及估算的每步成本(USD)。
    • 相對於 base 的成本倍數(新鮮輸入 = 1.0,緩存讀取 = cacheReadRate/freshRate)。
  2. 緩存與性能

    • 會話總計緩存命中百分比(部分命中不會向上取整爲 100%)。
    • 每步冷輸入(fresh tokens in the last request)。
  3. 上下文壓力與費率

    • 帶指示器(0 = 正常,1 = 警告,2 = 高,3 = 嚴重)。
    • 壓縮閾值(基於模型窗口計算)。
    • DeepSeek 餘額(僅顯示數字)。
    • 峯值/非峯值費率及切換倒計時。

安裝與啓用

通過包管理器安裝:

dsh plugin --profile web add dsh-context-governor

本地開發或引用源碼安裝:

dsh plugin --profile web add github:mpinaev/dsh-context-governor

版本支持

插件對 DSH 版本有特定要求:

  • 0.1.7-rc.2 … <0.2.0
  • 0.2.0-rc.1 … <0.3.0

DSH 會自動禁用不支持當前運行版本的插件。

技術實現與限制

  • 不消耗代幣:插件不會向模型發起任何生成請求,也不會花費任何 token。它僅讀取 ctx.sessionProjections 中的 token 使用數據。
  • 數據來源:
    • Tokens 數據來自 tokenUsage 投影(uncachedInputTokens, cacheReadTokens 等)。
    • 上下文窗口和壓力來自 contextPressure 投影。
  • 不可變性:插件不修改歷史記錄、系統提示或前綴緩存。
  • 網絡使用:網絡僅用於獲取 DeepSeek 餘額。
  • 價格顯示:價格僅在插件配置了該提供商的費率時顯示(默認支持 DeepSeek)。

注意事項

  • 僅在插件擁有費率數據時顯示成本,其他提供商可能不顯示價格相關數據。
  • 這是一個客戶端插件,需要 dsh web 啓動並加載插件。

總結

dsh-context-governor 爲 DSH 用戶提供了無需調用模型即可監控會話上下文和成本的工具。它通過算術計算展示關鍵指標,幫助開發者管理上下文壓力和預算。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜