在 DSH 的 llm-pi-ai 模型中,若未声明上下文窗口,系统默认使用 262,144 tokens。当实际请求超过此值时,即使服务端成功返回,也可能被误判为上下文溢出,导致工具调用失败或压缩功能无法提交。dsh-model-context-catalog 插件通过维护准确的路由级 contextWindow 来解决这一问题。
这是什么¶
这是一个针对 DeepSeek Harness(DSH)模型推理的插件,由 HOWILLMAKEIT 维护。它为 llm-pi-ai 模型维护准确的路由级 contextWindow,并提供原生 Web 设置页面进行管理。
核心功能¶
- 维护模型上下文窗口目录
- 自动修正 llm-pi-ai 元数据
- 提供原生 Web 设置页面
- 按精确的 provider/model 路由写入正确的 contextWindow
安装与启用¶
运行以下命令安装:
dsh plugin --profile web add dsh-model-context-catalog
安装后刷新 DSH Web 页面;如果 Host 尚未加载插件,请重启 DSH Host。
典型用法¶
- 打开 设置 → 上下文窗口。
- 点击 添加模型。
- 从已配置的 llm-pi-ai 模型中选择路由。
- 输入该部署真实支持的上下文窗口,可选填写备注。
- 保存并确认状态变为 已生效。
模型选择器会原样显示 provider 和模型信息,包括 (Agent Plan) 等套餐后缀。相同模型经不同 provider 或网关部署时,应分别配置。
适用场景与注意¶
- 适用场景:解决长会话上下文溢出误判的开发者。
- 配置依据:上下文窗口必须以对应服务商文档或控制台为准。配置过小会继续造成误报;配置过大可能掩盖真实溢出。
- 行为边界:
- 仅处理已配置的模型,不合成不存在的路由。
- 仅维护 contextWindow,不写入未验证的 maxTokens。
- 只更新目标模型的上下文窗口,保留名称、endpoint、协议、凭据引用和其他字段。
- Provider 默认值只作为默认值显示,不会冒充模型的真实容量。
- 已删除路由的旧目录条目仅在编辑自身时回显,方便清理。
总结¶
该插件通过修正元数据,解决上下文溢出误判问题。安装并配置后,可确保 llm-pi-ai 模型按真实容量运行。相关链接:插件目录 GitHub