在 DSH(DeepSeek Harness)中開發智能體時,長對話場景下歷史記錄會迅速膨脹。模型往往會重複讀取已處理的工具結果、補丁內容或腳本正文,稀釋了當前請求的注意力。dsh-stepwise-distill 旨在解決這個問題,通過分步固化會話歷史,將工具結果重寫爲模型實際保留的事實,從而讓長對話不再在每一輪都重新發送噪音。
插件信息¶
- 插件名稱:
dsh-stepwise-distill - 所屬分類:記憶
- 維護者:yunxiyang
- 許可證:MIT
- 核心價值:將 DSH 會話歷史分步固化,重寫工具結果以反映模型實際保留的事實,防止長對話重複發送噪音。
核心功能¶
- 分步蒸餾:對 DSH 會話歷史進行分步蒸餾處理。
- 事實重寫:將工具結果重寫爲模型實際保留的事實。
- 噪音過濾:防止在長對話中重複發送已完成的工作內容。
- 日誌保留:保持追加式事件日誌,不刪除任何原始數據。
安裝與啓用¶
安裝插件需要指定 profile 名稱。
dsh plugin --profile <name> add dsh-stepwise-distill
插件安裝後默認啓用。配置文件通常位於 DSH 的 profile 定義中,需設置以下參數:
- id: stepwise-distill
config:
stepSummary: true # 每個完成步驟的摘要(默認:true)
turnSummary: true # 每輪結束時的筆記(默認:true)
debug: false
如果不需要這些開銷,可以通過設置參數關閉:
stepSummary: false
turnSummary: false
典型用法與檢查¶
安裝並啓用後,可以通過 /distill 端點檢查插件狀態,查看當前保留了多少步驟、多少步驟已摘要以及多少原始材料不再被後續輪次攜帶。
/distill
注意事項¶
- 運行環境:需要 Node.js >= 20。
- 性能成本:該插件會消耗大約兩倍的輸入 token 和時間,且每步需要額外的模型往返。
- 成本說明:它增加的是 token 和時間成本,而非減少賬單金額。
- 依賴範圍:對等依賴範圍爲
^0.1.1-rc.2 || ^0.2.0-rc.1。
結語¶
dsh-stepwise-distill 的核心在於通過壓縮歷史記錄來提升上下文的密度,使 token 預算更多地承載模型當前所需的信息,而非重複發送已完成的內容。