dsh-model-context-catalog:维护 llm-pi-ai 的上下文窗口

在 DSH 的 llm-pi-ai 模型中,若未声明上下文窗口,系统默认使用 262,144 tokens。当实际请求超过此值时,即使服务端成功返回,也可能被误判为上下文溢出,导致工具调用失败或压缩功能无法提交。dsh-model-context-catalog 插件通过维护准确的路由级 contextWindow 来解决这一问题。

这是什么

这是一个针对 DeepSeek Harness(DSH)模型推理的插件,由 HOWILLMAKEIT 维护。它为 llm-pi-ai 模型维护准确的路由级 contextWindow,并提供原生 Web 设置页面进行管理。

核心功能

  • 维护模型上下文窗口目录
  • 自动修正 llm-pi-ai 元数据
  • 提供原生 Web 设置页面
  • 按精确的 provider/model 路由写入正确的 contextWindow

安装与启用

运行以下命令安装:

dsh plugin --profile web add dsh-model-context-catalog

安装后刷新 DSH Web 页面;如果 Host 尚未加载插件,请重启 DSH Host。

典型用法

  1. 打开 设置 → 上下文窗口。
  2. 点击 添加模型。
  3. 从已配置的 llm-pi-ai 模型中选择路由。
  4. 输入该部署真实支持的上下文窗口,可选填写备注。
  5. 保存并确认状态变为 已生效。

模型选择器会原样显示 provider 和模型信息,包括 (Agent Plan) 等套餐后缀。相同模型经不同 provider 或网关部署时,应分别配置。

适用场景与注意

  • 适用场景:解决长会话上下文溢出误判的开发者。
  • 配置依据:上下文窗口必须以对应服务商文档或控制台为准。配置过小会继续造成误报;配置过大可能掩盖真实溢出。
  • 行为边界:
    • 仅处理已配置的模型,不合成不存在的路由。
    • 仅维护 contextWindow,不写入未验证的 maxTokens。
    • 只更新目标模型的上下文窗口,保留名称、endpoint、协议、凭据引用和其他字段。
    • Provider 默认值只作为默认值显示,不会冒充模型的真实容量。
    • 已删除路由的旧目录条目仅在编辑自身时回显,方便清理。

总结

该插件通过修正元数据,解决上下文溢出误判问题。安装并配置后,可确保 llm-pi-ai 模型按真实容量运行。相关链接:插件目录 GitHub

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜