前言¶
DeepSeek Harness (DSH) 采用插件化架构，旨在让开发者通过插件扩展功能。在模型推理环节，寻找稳定且免费的模型接口通常需要维护手工清单。dsh-llm-kilo-gateway 插件解决了这个问题，它通过 Kilo Gateway 的公开目录自动注册免费模型，将其转化为 DSH 中可直接调用的 Provider。
插件定位¶
- 名称：dsh-llm-kilo-gateway
- 核心价值：自动发现免费模型目录，提供 API Key 设置、变更日志和 Token 统计。
- 维护者：aqiu817
- 类别：模型推理
- 许可证：MIT
核心功能¶
该插件提供以下能力：
- 自动发现与刷新：自动读取 Kilo Gateway 目录中标记为免费的模型，支持定时刷新（默认 24 小时）。
- 变更通知：模型列表发生增减时，支持通知端点推送变更日志。
- 工具调用支持：支持完整的工具调用（Tool Calling）解析与执行。
- 推理强度展示：读取并展示模型声明的推理档位（如 low/medium/high）。
- 多模态支持：支持图像输入（根据目录声明）。
- Token 统计：按模型累计调用次数与各类 Token 数量进行统计。
- 安全密钥管理：提供设置页输入 API Key，写入 Harness 凭据系统，页面不回显密钥。
- 可用模型列表与日志：在设置页展示当前可用模型及其历史增减记录。
- 上游重试：支持对 429、5xx 和超时错误进行上游重试。
安装与启用¶
通过 DSH 的 CLI 安装插件到指定 profile（示例为 web profile）：
dsh plugin --profile web add dsh-llm-kilo-gateway
安装完成后，重启 DSH。在模型选择器中会出现 Kilo Gateway 分组，并在「设置 → 插件」中找到对应的设置卡片。
设置与配置¶
进入插件设置页，可配置以下参数：
| 配置项 | 默认值 | 说明 |
|---|---|---|
apiKeyEnv |
(空) | API Key 的凭据名。留空则使用匿名访问（受限），否则需在此处配置 Key 或使用环境变量。 |
refreshIntervalMs |
86400000 | 目录刷新间隔（毫秒），下限为 60000。 |
notifyPort |
9876 | 通知端点端口，填 0 可关闭。 |
maxRetries |
2 | 单次失败请求最多重试次数，上限 10。 |
requestTimeoutMs |
300000 | 单次上游请求超时时间（毫秒），范围 10 秒至 30 分钟。 |
API Key 配置¶
设置页提供「Kilo API Key」输入框，这是一个只写控件。密钥写入 Harness 凭据系统，不会回显到界面，也不会随设置文档回传给浏览器。
也可以通过环境变量配置，无需使用页面：
export KILO_API_KEY=your_key_here
模型列表¶
设置页底部提供三个只读面板：
* 可用模型列表：当前免费模型及其目录声明的能力。
* 模型增减日志：最近 50 次目录变动记录。
* Token 统计：本进程按模型累计的用量。
免费模型列表¶
根据当前目录抓取，共有 16 个免费模型。目录是动态的，具体列表以设置页为准。
| 模型 ID | 上下文 | 最大输出 | 输入模态 | 工具调用 | 推理档位 | 到期 |
|---|---|---|---|---|---|---|
| stepfun/step-5-preview-free | 1M | 64K | text, image | 支持 | low/medium/high | — |
| kilo-auto/free | 256K | 33K | text | 支持 | — | — |
| nvidia/nemotron-3-ultra-550b-a55b:free | 1M | 66K | text | 支持 | none/medium/high | — |
| dots-studio/dots-3-note-preview:free | 512K | 461K | text, image | 支持 | instant/thinking | 2026-12-31 |
| inclusionai/ling-3.1-flash | 262K | 33K | text | 支持 | instant/thinking | — |
| poolside/laguna-s-2.1:free | 262K | 33K | text | 支持 | instant/thinking | 2026-10-31 |
| stealth/glyph-cluster | 256K | 256K | text | 支持 | low/medium/high/xhigh | — |
| liquid/lfm-2.5-2.6b:free | 66K | 8K | text | 支持 | thinking | — |
| nvidia/nemotron-3.5-lightning:free | 1M | 66K | text | 支持 | instant/thinking | — |
| thinkingmachines/inkling-small:free | 1M | 262K | text, image, audio | 支持 | none/minimal/low/medium/high/max | — |
| poolside/laguna-xs-2.1:free | 262K | 33K | text | 支持 | instant/thinking | 2026-10-31 |
| cohere/north-mini-code:free | 256K | 64K | text | 支持 | instant/thinking | — |
| nvidia/nemotron-3.5-content-safety:free | 128K | 8K | text, image | 不支持 | instant/thinking | — |
注意事项¶
- 数据隐私风险：免费模型的提示词与输出可能被上游记录并用于训练。Kilo 服务条款授予了宽泛的数据许可范围。不要处理任何敏感或机密数据。
- 限流与成本：匿名访问限 200 请求/小时/IP。免费模型虽定价为 0，但上游 provider 可能随时调整策略或限流。
- 模型动态性：免费模型是动态的，可能随时消失或到期。任何依赖免费模型的工作流都需做好应对模型下线的准备。
- 插件性质：本插件是第三方客户端，与 Kilo 无隶属关系。上游 API 字段、限流政策或条款可能随时变化。
结语¶
该插件为 DSH 用户提供了接入免费模型的能力，适合用于测试、开发或低成本原型验证。使用前请务必阅读上述风险说明，并根据实际需求配置重试与超时策略。
