dsh-context-compressor:DeepSeek Harness 上下文壓縮控制

前言

DeepSeek Harness 內置了壓縮策略,默認值通常是寫死的(例如當前模型上下文窗口的 80%)。開發者有時需要更靈活的控制,例如設定一個絕對的 token 上限,或者自定義比例。dsh-context-compressor 是一個外置插件,提供了這些配置能力。

核心功能

  1. 用戶設置絕對上下文上限:你可以設定一個具體的 token 數作爲會話的上限。
  2. 自動壓縮會話:一旦會話達到配置的閾值,插件會自動觸發壓縮。
  3. 獨立的設置頁:插件自帶設置界面,無需修改配置文件。
  4. 工具結果剪枝:在壓縮前先進行確定性剪枝,作爲廉價手段。
  5. Pre-step hook 集成:在每一步邊界進行檢測和處理。

安裝

安裝前請確認環境滿足要求。使用官方提供的安裝命令:

dsh plugin --profile desktop add https://github.com/AllShadowAnan/dsh-context-compressor/releases/download/v1.1.0/dsh-context-compressor-1.1.0.tgz

如果是通過本地鏈接安裝,需要先執行 pnpm install,因爲軟鏈接不會自動安裝依賴。

安裝完成後,活動 profile 需要刷新瀏覽器頁面或重啓應用才能生效。

配置與使用

插件自帶一個獨立的設置頁。你可以選擇兩種觸發模式之一:

  1. 絕對上限:設定一個具體的 token 數。適用於成本與延遲上限控制。
  2. 按窗口比例:設定一個佔模型上下文窗口的百分比(如 80%)。適用於需要自定義相對閾值的情況。

設置頁包含以下主要選項:
- 啓用觸發條件:總開關。
- 觸發方式:絕對上限或按窗口比例。
- 上下文上限:絕對模式下生效,設爲 0 表示不設上限。
- 觸發比例:比例模式下生效,取值範圍 5–95。
- 保留最近:保持原文的尾部長度,用於摘要。
- 單步最多壓縮次數:同一步內最多壓縮的輪次。

可以通過以下命令檢查插件狀態:

curl http://127.0.0.1:19387/dsh-context-compressor/status

注意事項

  • Token 計數是估算值:計量器使用固定密度啓發式對請求鏡像計價,請將觸發閾值視爲預算線,而非精確計數。
  • 比例模式依賴模型聲明:如果模型未聲明上下文窗口,比例模式將保持惰性。
  • 需要掛載壓縮棧的 profile:桌面端與 web 端通常滿足,但最小 profile 可能不支持。
  • 本地安裝需 pnpm:使用 link: 安裝時必須執行 pnpm install。
  • 修改源碼需重啓:修改插件源碼後必須重啓應用才能生效。

參考資源

  • 插件目錄:https://www.skillhub.cn/plugins/AllShadowAnan/dsh-context-compressor
  • 源碼倉庫:https://github.com/AllShadowAnan/dsh-context-compressor
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜