前言¶
在 DeepSeek Harness(dsh)里对接本地 Strata 推理服务时,模型是否在忙、令牌速率、显存占用往往要另开终端或自己 curl /status、/metrics。对话过程中很难一眼判断「当前请求有没有在跑、队列里还有多少」。下面介绍的插件把 Strata 的只读状态收进 GUI:在消息输入框旁显示一块状态 pill,悬停可看完整指标,面板每 5 秒刷新一次。
这是什么¶
dsh-strata-monitor 是 DSH 的客户端插件,由 ARustamA 维护,在 Harness 图形界面里对本机 Strata model server 做 live monitor。它不替代 Strata 自身的运维面板,而是在你写消息、发请求的同一块 UI 上给出 state、token rate、VRAM、最近一次请求耗时等摘要。
源码与说明见 GitHub 仓库;社区目录页:skillhub.cn 条目。DSH 生态主张「一切皆插件」;目录站为社区聚合,与 DeepSeek / 幻方无官方从属关系。
当前 package 版本为 0.1.0,许可证 MIT。
核心功能¶
插件在对话撰写器(message composer)旁渲染一个 pill,鼠标悬停显示更完整的 tooltip(仓库 README 中有界面截图)。
展示字段与数据来源如下(均来自 Strata 只读 HTTP 接口):
| 内容 | 读取接口 |
|---|---|
state(busy / idle / offline)及 phase |
GET /status |
| 实时 token rate、均值 rate、prefill rate | GET /status、GET /metrics |
| 已生成 / prompt tokens、排队请求数、已用时间 | GET /status |
| 模型名、engine 版本、context size | GET /metrics |
| 空闲 VRAM、arena size、expert-cache size | GET /metrics |
| 上次请求:耗时、prompt / output tokens、decode 速度、cache 命中率 | GET /metrics |
刷新周期为 5 秒。若无法连上 Strata,pill 显示 offline,而不是展示过期数字。
实现上分为两部分(README 说明):
- Host(
index.js):在 composition 的 web server 上注册只读路由GET /strata/monitor,聚合 Strata 的/status与/metrics后返回紧凑摘要;跨源请求拒绝,除 GET / HEAD 外返回 405。 - Browser(
client.js):在撰写器旁渲染 pill,每 5 秒轮询上述路由。
面板只读 Strata 状态端点,不需要 API key。
环境与依赖¶
安装插件前确认:
- DeepSeek Harness 0.2.1-rc.2 或更新(开发与测试目标含 0.2.2-rc.1;
package.json中engines.dsh另有上限说明,升级大版本前请对照仓库) - Node.js >= 22.19
- 本机运行中的 Strata server,默认应能响应
http://127.0.0.1:8080上的/status与/metrics
安装与启用¶
- 按你实际使用的 profile 替换命令中的
web(与主机 profile 一致)。 - 执行官方安装命令:
dsh plugin --profile web add github:ARustamA/dsh-strata-monitor
- 重启 dsh host,客户端注入才会生效(
package.json中dsh.client.platform为web,immediately为 true)。
配置¶
| 变量 | 默认值 | 含义 |
|---|---|---|
STRATA_URL |
http://127.0.0.1:8080 |
Strata 服务的基础 URL |
Strata 不在本机或端口不同时,在安装/运行环境中设置 STRATA_URL 即可;插件仍通过 host 侧代理访问,浏览器只请求同源下的 /strata/monitor。
典型用法¶
日常流程可以概括为:
- 启动 Strata(确保
/status、/metrics可访问)。 - 用上述命令把插件装入当前 profile 并重启 host。
- 打开 DSH Web 对话界面:输入框旁应出现状态 pill;推理进行中可观察
busy与 token rate,闲时多为idle。 - 需要细节时将指针移到 pill 上查看 tooltip 中的 metrics 汇总。
- 若 pill 长期为
offline,先检查 Strata 进程与STRATA_URL,再在浏览器网络面板确认对/strata/monitor的轮询是否成功。
仓库 README 中给出本地开发用的 mock:
npm test # node --test "test/*.test.js"
node test/mock-strata.mjs # 在 :8080 上模拟 Strata,带捕获的 payload
适用场景与注意¶
适合:在本机或固定地址跑 Strata、希望在 DSH 里写 prompt 的同时盯推理负载与显存的智能体 / 模型开发者;不想为看状态单独写脚本或开第二个监控页的场景。
注意:
- 插件以当前 dsh 进程权限运行,host 侧会代表你去请求
STRATA_URL。安装前请浏览 源码 与 MIT 许可证,确认可接受其网络访问范围。 - 仅监控只读端点,不修改 Strata 配置;安全边界仍取决于 Strata 自身是否只对内网暴露。
- 分类为客户端插件,依赖
@deepseek-ai/dsh-client-ui-conversation与@deepseek-ai/dsh-host-webserver等 peer 包,需与所用 DSH 版本匹配。
结尾¶
dsh-strata-monitor 把 Strata 的 /status、/metrics 收成对话旁的 pill 与 tooltip,5 秒刷新,连不上则明确标为 offline。若你已在 Harness 里用 Strata 做本地推理,可用一条 dsh plugin --profile <你的 profile> add github:ARustamA/dsh-strata-monitor 装上,按需配置 STRATA_URL 后重启 host 即可。
- 目录页:https://www.skillhub.cn/plugins/ARustamA/dsh-strata-monitor
- GitHub:https://github.com/ARustamA/dsh-strata-monitor