dsh-model-caps:从上游 /models 拉取并编辑 llm-pi-ai 模型能力

前言

在 DeepSeek Harness(DSH)里,llm-pi-ai 可以为每个模型配置 contextWindow、maxTokens 和 input(是否支持图像等)。多数 OpenAI 兼容网关的 GET /models 往往只返回模型 id,能力字段要么缺失、要么各家字段名不一致。靠静态名称表查 catalog 对私有路由或改名模型也不可靠,手工填表又容易错。

下面介绍社区插件 dsh-model-caps(维护者 qingshanjiluo,分类:模型推理):向已配置的上游请求真实的 /models 列表,在一页里审阅、编辑上下文窗口、最大输出和图像支持,再写回 llm-pi-ai 配置;上游没给的字段保持空白,不猜测。

这是什么

dsh-model-caps 是 DSH 的模型能力编辑器。与「用模型名去对静态表」不同,它只展示当前所选 provider 的上游实际返回内容;缺字段留空,视觉能力还可通过真实图片探测验证。数据经 settings.mutate 写回 llm-pi-ai.providers.<id>.models,未改动的字段会保留。

核心功能

拉取上游模型列表

选定 llm-pi-ai.providers 中的 provider 后,点击 Fetch upstream。插件用该 provider 的 baseURL 调用 GET {baseURL}/models,密钥来自 apiKeyEnv 指向的凭据存储,与你在 Web UI 里配置的 provider 一致。

解析能力字段

读取器兼容常见网关字段写法,例如:

  • 上下文:context_length、context_window、max_context_length、max_input_tokens、max_model_len、top_provider.context_length、limits.context 等
  • 输出:max_tokens、max_output_tokens、max_completion_tokens 及对应的 top_provider / limits 变体
  • 图像输入:architecture.input_modalities、input_modalities、modalities.input、capabilities.vision、supports_vision、vision 等

表格 notes 列会标明哪些值来自上游 payload;空白表示上游未暴露该字段。

视觉能力探测

可选中若干行后点击 Probe vision:发送 32×32 红/蓝 PNG,仅当模型回答出颜色时才记为支持图像输入。

编辑与保存

可在表格中改任意单元格,再 Save。保存会替换该 provider 的模型列表;不在上游返回中的条目会标出,默认会在保存时丢弃,除非你保留它们。API key 不经过浏览器直连上游:浏览器只访问 DSH,由 DSH 代请求 provider。

编辑器与 HTTP 接口

独立页面 /model-caps/,静态 UI 在 dsh/model-caps.html,每次请求从磁盘读取,改 UI 后刷新即可生效,无需重启 DSH。分页每页 80 行,筛选带 debounce,模型较多的 provider 仍可操作。

Method Path 用途
GET /model-caps/ 编辑器页面
GET /model-caps/providers 已配置 provider、apiKeyEnv、模型数量
POST /model-caps/fetch { provider } → 上游行与当前配置合并
POST /model-caps/vision { provider, ids } → 各模型图像支持
POST /model-caps/save { provider, rows } → 写回模型列表

页面与上述接口与 Web UI 共用同一套会话鉴权;无有效 session 的请求会被拒绝。上游仅在选中 provider 且你按下对应按钮时才会被访问。

安装与启用

在资料给出的命令下,为 web profile 安装插件:

dsh plugin --profile web add github:qingshanjiluo/dsh-model-caps

安装后重启该 profile,或若已安装过可由 dsh-hotswap 挂载。DSH 生态以插件扩展为主;社区目录站点与 DeepSeek / 幻方无官方从属关系,安装前建议自行浏览仓库源码与 MIT 许可证。插件以当前 DSH 进程权限运行,会读取凭据并调用你配置的上游 API。

典型用法

  1. 在与 Web UI 同一浏览器会话中打开 http://127.0.0.1:3080/model-caps/(cookie 用于鉴权)。
  2. 在列表中选择一个 provider(数据来自 llm-pi-ai.providers)。
  3. 点击 Fetch upstream,审阅表格中的上下文、最大输出与图像相关列。
  4. 如需确认视觉能力,选中行后 Probe vision。
  5. 修改需要调整的单元格,点击 Save,写回 llm-pi-ai.providers.<id>.models。

经过上面的步骤,llm-pi-ai 里的模型能力与上游实际列表对齐,且能力字段经过人工确认而非纯静态猜测。

适用场景与注意

适合:已接入多个 OpenAI 兼容网关、需要维护 llm-pi-ai 模型表、又希望以真实 /models 响应为准的 DSH 使用者。

注意:

  • 保存会替换单个 provider 的全量模型列表,操作前确认表格内容。
  • 上游未返回的模型条目会被标记,保存时默认移除,除非你在界面中保留。
  • 仅在你主动点击拉取或探测时才会访问上游,不会后台自动扫全量 provider。

结尾

dsh-model-caps 把「拉取 → 审阅 → 编辑 → 写回」放在同一页,补齐 llm-pi-ai 在网关只给 id 时的能力配置缺口。进一步了解可访问 GitHub 仓库 与 SkillHub 目录页。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜