在 DSH 的 llm-pi-ai 模型中,若未聲明上下文窗口,系統默認使用 262,144 tokens。當實際請求超過此值時,即使服務端成功返回,也可能被誤判爲上下文溢出,導致工具調用失敗或壓縮功能無法提交。dsh-model-context-catalog 插件通過維護準確的路由級 contextWindow 來解決這一問題。
這是什麼¶
這是一個針對 DeepSeek Harness(DSH)模型推理的插件,由 HOWILLMAKEIT 維護。它爲 llm-pi-ai 模型維護準確的路由級 contextWindow,並提供原生 Web 設置頁面進行管理。
核心功能¶
- 維護模型上下文窗口目錄
- 自動修正 llm-pi-ai 元數據
- 提供原生 Web 設置頁面
- 按精確的 provider/model 路由寫入正確的 contextWindow
安裝與啓用¶
運行以下命令安裝:
dsh plugin --profile web add dsh-model-context-catalog
安裝後刷新 DSH Web 頁面;如果 Host 尚未加載插件,請重啓 DSH Host。
典型用法¶
- 打開 設置 → 上下文窗口。
- 點擊 添加模型。
- 從已配置的 llm-pi-ai 模型中選擇路由。
- 輸入該部署真實支持的上下文窗口,可選填寫備註。
- 保存並確認狀態變爲 已生效。
模型選擇器會原樣顯示 provider 和模型信息,包括 (Agent Plan) 等套餐後綴。相同模型經不同 provider 或網關部署時,應分別配置。
適用場景與注意¶
- 適用場景:解決長會話上下文溢出誤判的開發者。
- 配置依據:上下文窗口必須以對應服務商文檔或控制台爲準。配置過小會繼續造成誤報;配置過大可能掩蓋真實溢出。
- 行爲邊界:
- 僅處理已配置的模型,不合成不存在的路由。
- 僅維護 contextWindow,不寫入未驗證的 maxTokens。
- 只更新目標模型的上下文窗口,保留名稱、endpoint、協議、憑據引用和其他字段。
- Provider 默認值只作爲默認值顯示,不會冒充模型的真實容量。
- 已刪除路由的舊目錄條目僅在編輯自身時回顯,方便清理。
總結¶
該插件通過修正元數據,解決上下文溢出誤判問題。安裝並配置後,可確保 llm-pi-ai 模型按真實容量運行。相關鏈接:插件目錄 GitHub