前言¶
在使用 llm-pi-ai 进行模型路由配置时,官方设置页通常仅允许编辑 contextWindow。然而,决定路由策略的关键参数 reasoningEfforts(思考层级)往往被隐藏,导致无法正确配置模型的强度。dsh-llm-capabilities 插件通过提供一个集中的设置面板,填补了官方 UI 在自托管网关中留下的空白。
插件介绍¶
这是一个 DSH 插件,旨在自动检测并配置 llm-pi-ai 的模型能力,特别是 reasoningEfforts 和 capacities。它由 bamboostrip 维护。它替代了 dsh-reasoning-efforts,并处理了官方 UI 留下不可配置的字段。
核心功能¶
该插件提供以下具体能力:
* 自动检测能力:自动检测模型的能力(reasoningEfforts + capacities)和思考层级。
* 管理思考层级:提供 off/low/medium/high/xhigh/max 等级的管理,并支持自定义 wire spellings。
* 严格保留视觉设置:严格保留官方 UI 声明的视觉(输入)设置,自 0.2.0 版本起不再修改 input 字段。
* 目录感知合并:与 llm.models() 进行目录感知的合并,以细化等级集合。
* 安全写入:使用 expectedRevision 和深拷贝数组进行安全写入,防止意外覆盖。
* 向后兼容:保留与 dsh-reasoning-efforts 端点的兼容性。
安装与启用¶
在安装前,请确保环境满足依赖要求:DHS >= 0.1.1-rc.2 且 node >= 22.13。
使用以下命令安装插件:
dsh plugin --profile web add dsh-llm-capabilities
典型用法¶
安装完成后,按以下步骤操作:
- 在
Settings → Models中添加提供商(route、baseURL、apiKeyEnv)。 - 打开
Settings → Model Capabilities,选择刚才添加的提供商(检测会自动运行)。 - 为每个模型切换“Offer thinking levels”(提供思考层级),并选择所需的等级(off/low/medium/high/xhigh/max)。
- 如有需要,通过铅笔图标自定义 wire spellings。
- 点击底部的“Save changes”按钮,将配置写入
llm-pi-ai的 providers 路由。
注意事项¶
- 隐藏设置可见化:官方
llm-pi-aiUI 仅允许编辑contextWindow,此插件会揭示隐藏的reasoningEfforts。 - 视觉设置保护:插件严格保留视觉(输入)设置,从 0.2.0 版本起,保存操作不会修改
input字段。 - 会话处理:插件处理 OpenCode Go 会话头(
x-opencode-session)以实现提示缓存亲和性,并在会话亲和性丢失时进行加密推理的自我修复重试。 - 源码审查:插件使用 MIT 许可证。在安装前,建议检查源码以确保符合您的安全策略。
结尾¶
dsh-llm-capabilities 修复了官方 UI 在配置模型推理能力时的盲区,提供了更细粒度的控制。更多细节可参考 GitHub 仓库。