dsh-sleev

DeepSeek Harness 生態中,需要觀察經過外部 Sleev 上下文優化網關的模型路由情況。dsh-sleev 插件提供了這一能力,在 Host 層面記錄路由、提供遙測數據,並將配置項暴露在 Web UI 中。

插件定位

該插件由 xarleyn 維護,旨在解決在 DSH 中集成 Sleev 網關時的可觀測性問題。目前插件已歸檔並遷移至 xarleyn/dsh-plugins 單體倉庫。

核心功能

插件作爲 Host 側的觀察者,具備以下能力:

  1. 路由與前綴觀察:觀察精確路由和/或前綴(默認前綴爲 sleev-)。
  2. 調用分類:對 agent、compaction、session-title 和 one-shot 調用進行分類。
  3. 流式輸出:原樣返回每個流塊,不修改數據內容。
  4. 使用量統計:記錄提供商使用情況和有效輸入 token 容量。
  5. 內存歷史:保留有界的無祕密內存歷史。
  6. 結構化日誌:爲每次觀察到的調用記錄一條結構化完成記錄。
  7. Web UI 配置:在 Web UI 中公開觀察者匹配、保留和日誌記錄設置。

安裝與啓用

通過官方命令安裝:

dsh plugin --profile web add dsh-sleev

如需移除,執行:

dsh plugin --profile web remove dsh-sleev

安裝後,重啓 DeepSeek Harness Host 以使配置生效。

配置與用法

1. 配置 Sleev 路由

在 $DSH_HOME/settings.yaml 文件下的 llm-pi-ai.providers 中合併提供商路由。DSH 會解析憑證引用,切勿在路由配置中直接放置 API 密鑰。

示例配置:

llm-pi-ai:
  providers:
    sleev-neuraldeep:
      displayName: Sleev / neuraldeep
      apiKeyEnv: NEURALDEEP_API_KEY
      api: openai-completions
      baseURL: http://127.0.0.1:17321/v1
      headers:
        sleev-base-url: https://api.neuraldeep.ru/v1
        sleev-harness: pi
      models:
        - id: gpt-oss-20b
          name: GPT OSS 20B via Sleev

2. 插件設置卡片

在 Web UI 中進入 Settings → Plugins → Plugin configuration → Sleev。

可調整以下項:
* 精確觀察的提供商別名
* 觀察的提供商名稱前綴
* 內存中最近調用記錄的保留數量
* 結構化遙測日誌級別 (off, info, debug)

注意事項與限制

  • 倉庫狀態:原倉庫已存檔爲只讀,當前開發集中在 xarleyn/dsh-plugins 單體倉庫。
  • 觀察者能力:當前的 M1 觀察者不會重寫提示、實現壓縮或自行路由流量。路由必須在 DSH 的 llm-pi-ai.providers 中正常配置。
  • 隱私保護:觀察者不會存儲提示、請求頭、憑據或祕密值。
  • 觀察範圍:未配置 Sleev 別名的直接路由將保持未觀察狀態。
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜