dsh-sleev

DeepSeek Harness 生态中,需要观察经过外部 Sleev 上下文优化网关的模型路由情况。dsh-sleev 插件提供了这一能力,在 Host 层面记录路由、提供遥测数据,并将配置项暴露在 Web UI 中。

插件定位

该插件由 xarleyn 维护,旨在解决在 DSH 中集成 Sleev 网关时的可观测性问题。目前插件已归档并迁移至 xarleyn/dsh-plugins 单体仓库。

核心功能

插件作为 Host 侧的观察者,具备以下能力:

  1. 路由与前缀观察:观察精确路由和/或前缀(默认前缀为 sleev-)。
  2. 调用分类:对 agent、compaction、session-title 和 one-shot 调用进行分类。
  3. 流式输出:原样返回每个流块,不修改数据内容。
  4. 使用量统计:记录提供商使用情况和有效输入 token 容量。
  5. 内存历史:保留有界的无秘密内存历史。
  6. 结构化日志:为每次观察到的调用记录一条结构化完成记录。
  7. Web UI 配置:在 Web UI 中公开观察者匹配、保留和日志记录设置。

安装与启用

通过官方命令安装:

dsh plugin --profile web add dsh-sleev

如需移除,执行:

dsh plugin --profile web remove dsh-sleev

安装后,重启 DeepSeek Harness Host 以使配置生效。

配置与用法

1. 配置 Sleev 路由

在 $DSH_HOME/settings.yaml 文件下的 llm-pi-ai.providers 中合并提供商路由。DSH 会解析凭证引用,切勿在路由配置中直接放置 API 密钥。

示例配置:

llm-pi-ai:
  providers:
    sleev-neuraldeep:
      displayName: Sleev / neuraldeep
      apiKeyEnv: NEURALDEEP_API_KEY
      api: openai-completions
      baseURL: http://127.0.0.1:17321/v1
      headers:
        sleev-base-url: https://api.neuraldeep.ru/v1
        sleev-harness: pi
      models:
        - id: gpt-oss-20b
          name: GPT OSS 20B via Sleev

2. 插件设置卡片

在 Web UI 中进入 Settings → Plugins → Plugin configuration → Sleev。

可调整以下项:
* 精确观察的提供商别名
* 观察的提供商名称前缀
* 内存中最近调用记录的保留数量
* 结构化遥测日志级别 (off, info, debug)

注意事项与限制

  • 仓库状态:原仓库已存档为只读,当前开发集中在 xarleyn/dsh-plugins 单体仓库。
  • 观察者能力:当前的 M1 观察者不会重写提示、实现压缩或自行路由流量。路由必须在 DSH 的 llm-pi-ai.providers 中正常配置。
  • 隐私保护:观察者不会存储提示、请求头、凭据或秘密值。
  • 观察范围:未配置 Sleev 别名的直接路由将保持未观察状态。
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜