DeepSeek Harness 生態中,需要觀察經過外部 Sleev 上下文優化網關的模型路由情況。dsh-sleev 插件提供了這一能力,在 Host 層面記錄路由、提供遙測數據,並將配置項暴露在 Web UI 中。
插件定位¶
該插件由 xarleyn 維護,旨在解決在 DSH 中集成 Sleev 網關時的可觀測性問題。目前插件已歸檔並遷移至 xarleyn/dsh-plugins 單體倉庫。
核心功能¶
插件作爲 Host 側的觀察者,具備以下能力:
- 路由與前綴觀察:觀察精確路由和/或前綴(默認前綴爲
sleev-)。 - 調用分類:對 agent、compaction、session-title 和 one-shot 調用進行分類。
- 流式輸出:原樣返回每個流塊,不修改數據內容。
- 使用量統計:記錄提供商使用情況和有效輸入 token 容量。
- 內存歷史:保留有界的無祕密內存歷史。
- 結構化日誌:爲每次觀察到的調用記錄一條結構化完成記錄。
- Web UI 配置:在 Web UI 中公開觀察者匹配、保留和日誌記錄設置。
安裝與啓用¶
通過官方命令安裝:
dsh plugin --profile web add dsh-sleev
如需移除,執行:
dsh plugin --profile web remove dsh-sleev
安裝後,重啓 DeepSeek Harness Host 以使配置生效。
配置與用法¶
1. 配置 Sleev 路由¶
在 $DSH_HOME/settings.yaml 文件下的 llm-pi-ai.providers 中合併提供商路由。DSH 會解析憑證引用,切勿在路由配置中直接放置 API 密鑰。
示例配置:
llm-pi-ai:
providers:
sleev-neuraldeep:
displayName: Sleev / neuraldeep
apiKeyEnv: NEURALDEEP_API_KEY
api: openai-completions
baseURL: http://127.0.0.1:17321/v1
headers:
sleev-base-url: https://api.neuraldeep.ru/v1
sleev-harness: pi
models:
- id: gpt-oss-20b
name: GPT OSS 20B via Sleev
2. 插件設置卡片¶
在 Web UI 中進入 Settings → Plugins → Plugin configuration → Sleev。
可調整以下項:
* 精確觀察的提供商別名
* 觀察的提供商名稱前綴
* 內存中最近調用記錄的保留數量
* 結構化遙測日誌級別 (off, info, debug)
注意事項與限制¶
- 倉庫狀態:原倉庫已存檔爲只讀,當前開發集中在
xarleyn/dsh-plugins單體倉庫。 - 觀察者能力:當前的 M1 觀察者不會重寫提示、實現壓縮或自行路由流量。路由必須在 DSH 的
llm-pi-ai.providers中正常配置。 - 隱私保護:觀察者不會存儲提示、請求頭、憑據或祕密值。
- 觀察範圍:未配置 Sleev 別名的直接路由將保持未觀察狀態。