前言¶
在 DeepSeek Harness(DSH)里,llm-pi-ai 可以为每个模型配置 contextWindow、maxTokens 和 input(是否支持图像等)。多数 OpenAI 兼容网关的 GET /models 往往只返回模型 id,能力字段要么缺失、要么各家字段名不一致。靠静态名称表查 catalog 对私有路由或改名模型也不可靠,手工填表又容易错。
下面介绍社区插件 dsh-model-caps(维护者 qingshanjiluo,分类:模型推理):向已配置的上游请求真实的 /models 列表,在一页里审阅、编辑上下文窗口、最大输出和图像支持,再写回 llm-pi-ai 配置;上游没给的字段保持空白,不猜测。
这是什么¶
dsh-model-caps 是 DSH 的模型能力编辑器。与「用模型名去对静态表」不同,它只展示当前所选 provider 的上游实际返回内容;缺字段留空,视觉能力还可通过真实图片探测验证。数据经 settings.mutate 写回 llm-pi-ai.providers.<id>.models,未改动的字段会保留。
- 仓库:github.com/qingshanjiluo/dsh-model-caps
- 社区目录:skillhub.cn 插件页
- 许可证:MIT(package.json 版本 0.1.2,Node
>=22.19)
核心功能¶
拉取上游模型列表¶
选定 llm-pi-ai.providers 中的 provider 后,点击 Fetch upstream。插件用该 provider 的 baseURL 调用 GET {baseURL}/models,密钥来自 apiKeyEnv 指向的凭据存储,与你在 Web UI 里配置的 provider 一致。
解析能力字段¶
读取器兼容常见网关字段写法,例如:
- 上下文:
context_length、context_window、max_context_length、max_input_tokens、max_model_len、top_provider.context_length、limits.context等 - 输出:
max_tokens、max_output_tokens、max_completion_tokens及对应的top_provider/limits变体 - 图像输入:
architecture.input_modalities、input_modalities、modalities.input、capabilities.vision、supports_vision、vision等
表格 notes 列会标明哪些值来自上游 payload;空白表示上游未暴露该字段。
视觉能力探测¶
可选中若干行后点击 Probe vision:发送 32×32 红/蓝 PNG,仅当模型回答出颜色时才记为支持图像输入。
编辑与保存¶
可在表格中改任意单元格,再 Save。保存会替换该 provider 的模型列表;不在上游返回中的条目会标出,默认会在保存时丢弃,除非你保留它们。API key 不经过浏览器直连上游:浏览器只访问 DSH,由 DSH 代请求 provider。
编辑器与 HTTP 接口¶
独立页面 /model-caps/,静态 UI 在 dsh/model-caps.html,每次请求从磁盘读取,改 UI 后刷新即可生效,无需重启 DSH。分页每页 80 行,筛选带 debounce,模型较多的 provider 仍可操作。
| Method | Path | 用途 |
|---|---|---|
| GET | /model-caps/ |
编辑器页面 |
| GET | /model-caps/providers |
已配置 provider、apiKeyEnv、模型数量 |
| POST | /model-caps/fetch |
{ provider } → 上游行与当前配置合并 |
| POST | /model-caps/vision |
{ provider, ids } → 各模型图像支持 |
| POST | /model-caps/save |
{ provider, rows } → 写回模型列表 |
页面与上述接口与 Web UI 共用同一套会话鉴权;无有效 session 的请求会被拒绝。上游仅在选中 provider 且你按下对应按钮时才会被访问。
安装与启用¶
在资料给出的命令下,为 web profile 安装插件:
dsh plugin --profile web add github:qingshanjiluo/dsh-model-caps
安装后重启该 profile,或若已安装过可由 dsh-hotswap 挂载。DSH 生态以插件扩展为主;社区目录站点与 DeepSeek / 幻方无官方从属关系,安装前建议自行浏览仓库源码与 MIT 许可证。插件以当前 DSH 进程权限运行,会读取凭据并调用你配置的上游 API。
典型用法¶
- 在与 Web UI 同一浏览器会话中打开
http://127.0.0.1:3080/model-caps/(cookie 用于鉴权)。 - 在列表中选择一个 provider(数据来自
llm-pi-ai.providers)。 - 点击 Fetch upstream,审阅表格中的上下文、最大输出与图像相关列。
- 如需确认视觉能力,选中行后 Probe vision。
- 修改需要调整的单元格,点击 Save,写回
llm-pi-ai.providers.<id>.models。
经过上面的步骤,llm-pi-ai 里的模型能力与上游实际列表对齐,且能力字段经过人工确认而非纯静态猜测。
适用场景与注意¶
适合:已接入多个 OpenAI 兼容网关、需要维护 llm-pi-ai 模型表、又希望以真实 /models 响应为准的 DSH 使用者。
注意:
- 保存会替换单个 provider 的全量模型列表,操作前确认表格内容。
- 上游未返回的模型条目会被标记,保存时默认移除,除非你在界面中保留。
- 仅在你主动点击拉取或探测时才会访问上游,不会后台自动扫全量 provider。
结尾¶
dsh-model-caps 把「拉取 → 审阅 → 编辑 → 写回」放在同一页,补齐 llm-pi-ai 在网关只给 id 时的能力配置缺口。进一步了解可访问 GitHub 仓库 与 SkillHub 目录页。