dsh-model-context-catalog:維護 llm-pi-ai 的上下文窗口

在 DSH 的 llm-pi-ai 模型中,若未聲明上下文窗口,系統默認使用 262,144 tokens。當實際請求超過此值時,即使服務端成功返回,也可能被誤判爲上下文溢出,導致工具調用失敗或壓縮功能無法提交。dsh-model-context-catalog 插件通過維護準確的路由級 contextWindow 來解決這一問題。

這是什麼

這是一個針對 DeepSeek Harness(DSH)模型推理的插件,由 HOWILLMAKEIT 維護。它爲 llm-pi-ai 模型維護準確的路由級 contextWindow,並提供原生 Web 設置頁面進行管理。

核心功能

  • 維護模型上下文窗口目錄
  • 自動修正 llm-pi-ai 元數據
  • 提供原生 Web 設置頁面
  • 按精確的 provider/model 路由寫入正確的 contextWindow

安裝與啓用

運行以下命令安裝:

dsh plugin --profile web add dsh-model-context-catalog

安裝後刷新 DSH Web 頁面;如果 Host 尚未加載插件,請重啓 DSH Host。

典型用法

  1. 打開 設置 → 上下文窗口。
  2. 點擊 添加模型。
  3. 從已配置的 llm-pi-ai 模型中選擇路由。
  4. 輸入該部署真實支持的上下文窗口,可選填寫備註。
  5. 保存並確認狀態變爲 已生效。

模型選擇器會原樣顯示 provider 和模型信息,包括 (Agent Plan) 等套餐後綴。相同模型經不同 provider 或網關部署時,應分別配置。

適用場景與注意

  • 適用場景:解決長會話上下文溢出誤判的開發者。
  • 配置依據:上下文窗口必須以對應服務商文檔或控制台爲準。配置過小會繼續造成誤報;配置過大可能掩蓋真實溢出。
  • 行爲邊界:
    • 僅處理已配置的模型,不合成不存在的路由。
    • 僅維護 contextWindow,不寫入未驗證的 maxTokens。
    • 只更新目標模型的上下文窗口,保留名稱、endpoint、協議、憑據引用和其他字段。
    • Provider 默認值只作爲默認值顯示,不會冒充模型的真實容量。
    • 已刪除路由的舊目錄條目僅在編輯自身時回顯,方便清理。

總結

該插件通過修正元數據,解決上下文溢出誤判問題。安裝並配置後,可確保 llm-pi-ai 模型按真實容量運行。相關鏈接:插件目錄 GitHub

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜