DeepSeek Harness 生态中,需要观察经过外部 Sleev 上下文优化网关的模型路由情况。dsh-sleev 插件提供了这一能力,在 Host 层面记录路由、提供遥测数据,并将配置项暴露在 Web UI 中。
插件定位¶
该插件由 xarleyn 维护,旨在解决在 DSH 中集成 Sleev 网关时的可观测性问题。目前插件已归档并迁移至 xarleyn/dsh-plugins 单体仓库。
核心功能¶
插件作为 Host 侧的观察者,具备以下能力:
- 路由与前缀观察:观察精确路由和/或前缀(默认前缀为
sleev-)。 - 调用分类:对 agent、compaction、session-title 和 one-shot 调用进行分类。
- 流式输出:原样返回每个流块,不修改数据内容。
- 使用量统计:记录提供商使用情况和有效输入 token 容量。
- 内存历史:保留有界的无秘密内存历史。
- 结构化日志:为每次观察到的调用记录一条结构化完成记录。
- Web UI 配置:在 Web UI 中公开观察者匹配、保留和日志记录设置。
安装与启用¶
通过官方命令安装:
dsh plugin --profile web add dsh-sleev
如需移除,执行:
dsh plugin --profile web remove dsh-sleev
安装后,重启 DeepSeek Harness Host 以使配置生效。
配置与用法¶
1. 配置 Sleev 路由¶
在 $DSH_HOME/settings.yaml 文件下的 llm-pi-ai.providers 中合并提供商路由。DSH 会解析凭证引用,切勿在路由配置中直接放置 API 密钥。
示例配置:
llm-pi-ai:
providers:
sleev-neuraldeep:
displayName: Sleev / neuraldeep
apiKeyEnv: NEURALDEEP_API_KEY
api: openai-completions
baseURL: http://127.0.0.1:17321/v1
headers:
sleev-base-url: https://api.neuraldeep.ru/v1
sleev-harness: pi
models:
- id: gpt-oss-20b
name: GPT OSS 20B via Sleev
2. 插件设置卡片¶
在 Web UI 中进入 Settings → Plugins → Plugin configuration → Sleev。
可调整以下项:
* 精确观察的提供商别名
* 观察的提供商名称前缀
* 内存中最近调用记录的保留数量
* 结构化遥测日志级别 (off, info, debug)
注意事项与限制¶
- 仓库状态:原仓库已存档为只读,当前开发集中在
xarleyn/dsh-plugins单体仓库。 - 观察者能力:当前的 M1 观察者不会重写提示、实现压缩或自行路由流量。路由必须在 DSH 的
llm-pi-ai.providers中正常配置。 - 隐私保护:观察者不会存储提示、请求头、凭据或秘密值。
- 观察范围:未配置 Sleev 别名的直接路由将保持未观察状态。