前言¶
DeepSeek Harness 內置了壓縮策略,默認值通常是寫死的(例如當前模型上下文窗口的 80%)。開發者有時需要更靈活的控制,例如設定一個絕對的 token 上限,或者自定義比例。dsh-context-compressor 是一個外置插件,提供了這些配置能力。
核心功能¶
- 用戶設置絕對上下文上限:你可以設定一個具體的 token 數作爲會話的上限。
- 自動壓縮會話:一旦會話達到配置的閾值,插件會自動觸發壓縮。
- 獨立的設置頁:插件自帶設置界面,無需修改配置文件。
- 工具結果剪枝:在壓縮前先進行確定性剪枝,作爲廉價手段。
- Pre-step hook 集成:在每一步邊界進行檢測和處理。
安裝¶
安裝前請確認環境滿足要求。使用官方提供的安裝命令:
dsh plugin --profile desktop add https://github.com/AllShadowAnan/dsh-context-compressor/releases/download/v1.1.0/dsh-context-compressor-1.1.0.tgz
如果是通過本地鏈接安裝,需要先執行 pnpm install,因爲軟鏈接不會自動安裝依賴。
安裝完成後,活動 profile 需要刷新瀏覽器頁面或重啓應用才能生效。
配置與使用¶
插件自帶一個獨立的設置頁。你可以選擇兩種觸發模式之一:
- 絕對上限:設定一個具體的 token 數。適用於成本與延遲上限控制。
- 按窗口比例:設定一個佔模型上下文窗口的百分比(如 80%)。適用於需要自定義相對閾值的情況。
設置頁包含以下主要選項:
- 啓用觸發條件:總開關。
- 觸發方式:絕對上限或按窗口比例。
- 上下文上限:絕對模式下生效,設爲 0 表示不設上限。
- 觸發比例:比例模式下生效,取值範圍 5–95。
- 保留最近:保持原文的尾部長度,用於摘要。
- 單步最多壓縮次數:同一步內最多壓縮的輪次。
可以通過以下命令檢查插件狀態:
curl http://127.0.0.1:19387/dsh-context-compressor/status
注意事項¶
- Token 計數是估算值:計量器使用固定密度啓發式對請求鏡像計價,請將觸發閾值視爲預算線,而非精確計數。
- 比例模式依賴模型聲明:如果模型未聲明上下文窗口,比例模式將保持惰性。
- 需要掛載壓縮棧的 profile:桌面端與 web 端通常滿足,但最小 profile 可能不支持。
- 本地安裝需 pnpm:使用
link:安裝時必須執行pnpm install。 - 修改源碼需重啓:修改插件源碼後必須重啓應用才能生效。
參考資源¶
- 插件目錄:https://www.skillhub.cn/plugins/AllShadowAnan/dsh-context-compressor
- 源碼倉庫:https://github.com/AllShadowAnan/dsh-context-compressor