dsh-text2img-compress:利用視覺模型壓縮 DeepSeek Harness 的輸入 Token

前言

DeepSeek Harness(DSH)在處理長文本時,輸入 token 的消耗會迅速增加,導致成本上升或上下文窗口被截斷。本插件通過將長文本渲染爲圖片發送,利用視覺模型每張圖 384 token 的封頂特性來壓縮輸入 token。它專爲 DSH 設計,無需自定義 RPC,集成在 DSH 的現有架構中。

核心功能

  1. 文本轉圖片壓縮:將長文本渲染爲 800×800 的圖片,利用每圖 384 token 的上限壓縮 LLM 輸入。模型看到的輸入從上萬 token 降至幾百到幾千,而內容保持一字不差。
  2. 自動縮放與壓縮比:支持自動縮放圖片。中文 18px 壓縮比約 2~2.5×,13px 更高;英文大於等於 18px 壓縮幾乎無收益。
  3. 智能模型檢測:自動識別模型是否爲視覺模型。非視覺模型(不含 vision 字樣)會自動跳過轉換,避免報錯。
  4. 架構集成:Host 監聽 agent/pre-step 事件替換文本塊,Client 注入「圖」開關與字號下拉。開關和字號走 settings,渲染和替換走宿主事件與附件服務,零自定義 RPC。
  5. 閾值與頁數控制:支持設置閾值(默認 600 字)和最大頁數(默認 10 頁,範圍 1–20),超出時自動回退純文本。

安裝與啓用

使用 DSH CLI 安裝插件:

dsh plugin --profile web add dsh-text2img-compress@0.1.3

安裝後重啓 DSH 並刷新頁面,輸入框右側會出現「圖」按鈕。

使用方法

  1. 開啓功能:點擊輸入框右側的「圖」按鈕,狀態持久化,重啓不丟失。
  2. 發送長文本:發送 ≥ 默認 600 字 的文本。聊天界面會顯示提示,並自動將文本渲染爲圖片。
  3. 調整參數:在設置面板(DSH 設置面板 →「文本轉圖壓縮」頁)調整字號(12–22px,1px 步進)和最大頁數(1–20)以控制壓縮比。
  4. 模型讀取:模型直接讀取圖片內容,實現高保真閱讀或總結。

適用場景與限制

適用場景:
- 長文檔、論文、手冊或更新日誌的理解、總結與檢索。
- 長上下文窗口的預算壓縮(如 100KB 文檔從 3 萬+ token 降到幾千)。
- 需要大致還原內容的場景(日期、數字、段落大意)。

限制與注意:
- 僅限視覺模型:僅適用於視覺模型(如 deepseek-v4-flash-vision-exp),純文本模型會自動跳過。
- 英文場景:英文大於等於 18px 壓縮幾乎無收益,建議用 13px 或直接用文本。
- 精確性要求:不適用於代碼、配置、SQL、JSON 等需要逐字精確的場景。
- OCR 精度:通用視覺模型不是 OCR 專用模型。精度要求高時建議用 22px。

結尾

該插件通過利用視覺模型的圖片 token 封頂機制,有效降低了長文本處理的輸入 token 消耗。安裝與配置簡單,適合需要在 DSH 中高效處理長文本的場景。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜