dsh-compact-manager:DeepSeek Harness 分層壓縮閾值管理器

DeepSeek Harness (DSH) 默認使用 @deepseek-ai/dsh-compaction-basic 來管理上下文壓縮的觸發閾值,公式爲 floor(min(W × 0.8, W − O − 65536))。其中 W 是上下文窗口,O 是輸出預留。當模型配置的輸出上限較高時,W − O − 65536 項會將閾值壓得很低。例如 K3-256K 配合 128K 輸出預留時,觸發閾值僅爲窗口的 25%。dsh-compact-manager 旨在解決這一問題,讓你可以自定義「何時壓縮」的觸發點。

插件簡介

dsh-compact-manager 是一個面向 DeepSeek Harness 的分層壓縮閾值管理器。它允許用戶按全局 → 上下文長度檔位 → 模型三級覆蓋自動壓縮的觸發點,並通過側邊欄實時查看每個模型當前生效的閾值與策略。

  • 維護者:frankshi2024
  • 協議:MIT
  • 分類:模型推理

核心功能

三級策略與優先級

策略優先級從低到高,高層會覆蓋低層:

  1. 全局:所有路由生效。
  2. 上下文長度檔位:窗口長度落在檔位值 ±5% 內即算同一檔(多檔重疊時取最近的一檔)。
  3. 模型:精確的 provider/model 路由。

每一層都是完整選擇:四個策略項各自只有「啓用 / 停用」,沒有「繼承」。高層一旦存在就整體覆蓋低層。

策略公式

每個策略項支持以下公式(需配合數值使用):

  • ratio:W × v(上下文比例)
  • outputAware:W − O − v(扣掉輸出預留和固定值)
  • fixed:W − v(只扣固定值)
  • absolute:v(硬編碼閾值,只在檔位層和模型層可用,v < W 時直接覆蓋其他項;v ≥ W 時永不觸發)

側邊欄編輯器

安裝後,側邊欄會出現「壓縮策略」頁面:
- 實時查看:選擇任意已知路由,查看 W、O、當前生效閾值、官方內置閾值。
- 預設套用:一鍵套用常見策略(如 256K 檔:80% 或 上下文−32K)。
- 自動刷新:頁面每 5 秒自動刷新,窗口獲得焦點時也會刷新。

安裝與啓用

使用官方 CLI 安裝插件:

dsh plugin --profile <profile> add dsh-compact-manager

安裝後側邊欄會出現「壓縮策略」頁面。若未出現,請刷新瀏覽器頁面。本地 link: 安裝時,需確保插件倉庫已執行 pnpm install(依賴 zod)。

典型用法

  1. 打開側邊欄的「壓縮策略」頁。
  2. 在模型下拉列表中選擇目標模型,查看其 W(上下文窗口)、O(輸出預留)以及當前生效的閾值。
  3. 在「預設」區域選擇一個策略(例如 256K 檔:80% 或 上下文−32K)。
  4. 保存策略以持久化配置。

適用場景與注意

  • 適用場景:需要精細控制上下文壓縮觸發時機,避免在窗口使用量尚大時就觸發壓縮導致歷史丟失的用戶。
  • 權限說明:插件以當前 DSH 進程權限運行,安裝前應檢查源碼與許可證。
  • 已知限制:
    • 只覆蓋壓力觸發;上下文溢出恢復(context-overflow)仍走官方路徑。
    • 只改變觸發閾值,不改變一次壓縮的保留比例(仍由內置後端決定最近 16% × (W − O))。
    • 模型下拉列表依賴 ctx.llm.listProviders(),未登錄的 provider 不可用,也就無法爲它新增覆蓋(已存在的條目會保留顯示)。

生態背景

DeepSeek Harness 的理念是「一切皆插件」。本插件屬於社區插件,目錄與 GitHub 鏈接如下:

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜