dsh-strata-monitor:在 DSH 对话界面旁实时查看本地 Strata 模型服务状态

前言

在 DeepSeek Harness(dsh)里对接本地 Strata 推理服务时,模型是否在忙、令牌速率、显存占用往往要另开终端或自己 curl /status、/metrics。对话过程中很难一眼判断「当前请求有没有在跑、队列里还有多少」。下面介绍的插件把 Strata 的只读状态收进 GUI:在消息输入框旁显示一块状态 pill,悬停可看完整指标,面板每 5 秒刷新一次。

这是什么

dsh-strata-monitor 是 DSH 的客户端插件,由 ARustamA 维护,在 Harness 图形界面里对本机 Strata model server 做 live monitor。它不替代 Strata 自身的运维面板,而是在你写消息、发请求的同一块 UI 上给出 state、token rate、VRAM、最近一次请求耗时等摘要。

源码与说明见 GitHub 仓库;社区目录页:skillhub.cn 条目。DSH 生态主张「一切皆插件」;目录站为社区聚合,与 DeepSeek / 幻方无官方从属关系。

当前 package 版本为 0.1.0,许可证 MIT。

核心功能

插件在对话撰写器(message composer)旁渲染一个 pill,鼠标悬停显示更完整的 tooltip(仓库 README 中有界面截图)。

展示字段与数据来源如下(均来自 Strata 只读 HTTP 接口):

内容 读取接口
state(busy / idle / offline)及 phase GET /status
实时 token rate、均值 rate、prefill rate GET /status、GET /metrics
已生成 / prompt tokens、排队请求数、已用时间 GET /status
模型名、engine 版本、context size GET /metrics
空闲 VRAM、arena size、expert-cache size GET /metrics
上次请求:耗时、prompt / output tokens、decode 速度、cache 命中率 GET /metrics

刷新周期为 5 秒。若无法连上 Strata,pill 显示 offline,而不是展示过期数字。

实现上分为两部分(README 说明):

  • Host(index.js):在 composition 的 web server 上注册只读路由 GET /strata/monitor,聚合 Strata 的 /status 与 /metrics 后返回紧凑摘要;跨源请求拒绝,除 GET / HEAD 外返回 405。
  • Browser(client.js):在撰写器旁渲染 pill,每 5 秒轮询上述路由。

面板只读 Strata 状态端点,不需要 API key。

环境与依赖

安装插件前确认:

  • DeepSeek Harness 0.2.1-rc.2 或更新(开发与测试目标含 0.2.2-rc.1;package.json 中 engines.dsh 另有上限说明,升级大版本前请对照仓库)
  • Node.js >= 22.19
  • 本机运行中的 Strata server,默认应能响应 http://127.0.0.1:8080 上的 /status 与 /metrics

安装与启用

  1. 按你实际使用的 profile 替换命令中的 web(与主机 profile 一致)。
  2. 执行官方安装命令:
dsh plugin --profile web add github:ARustamA/dsh-strata-monitor
  1. 重启 dsh host,客户端注入才会生效(package.json 中 dsh.client.platform 为 web,immediately 为 true)。

配置

变量 默认值 含义
STRATA_URL http://127.0.0.1:8080 Strata 服务的基础 URL

Strata 不在本机或端口不同时,在安装/运行环境中设置 STRATA_URL 即可;插件仍通过 host 侧代理访问,浏览器只请求同源下的 /strata/monitor。

典型用法

日常流程可以概括为:

  1. 启动 Strata(确保 /status、/metrics 可访问)。
  2. 用上述命令把插件装入当前 profile 并重启 host。
  3. 打开 DSH Web 对话界面:输入框旁应出现状态 pill;推理进行中可观察 busy 与 token rate,闲时多为 idle。
  4. 需要细节时将指针移到 pill 上查看 tooltip 中的 metrics 汇总。
  5. 若 pill 长期为 offline,先检查 Strata 进程与 STRATA_URL,再在浏览器网络面板确认对 /strata/monitor 的轮询是否成功。

仓库 README 中给出本地开发用的 mock:

npm test                    # node --test "test/*.test.js"
node test/mock-strata.mjs   # 在 :8080 上模拟 Strata,带捕获的 payload

适用场景与注意

适合:在本机或固定地址跑 Strata、希望在 DSH 里写 prompt 的同时盯推理负载与显存的智能体 / 模型开发者;不想为看状态单独写脚本或开第二个监控页的场景。

注意:

  • 插件以当前 dsh 进程权限运行,host 侧会代表你去请求 STRATA_URL。安装前请浏览 源码 与 MIT 许可证,确认可接受其网络访问范围。
  • 仅监控只读端点,不修改 Strata 配置;安全边界仍取决于 Strata 自身是否只对内网暴露。
  • 分类为客户端插件,依赖 @deepseek-ai/dsh-client-ui-conversation 与 @deepseek-ai/dsh-host-webserver 等 peer 包,需与所用 DSH 版本匹配。

结尾

dsh-strata-monitor 把 Strata 的 /status、/metrics 收成对话旁的 pill 与 tooltip,5 秒刷新,连不上则明确标为 offline。若你已在 Harness 里用 Strata 做本地推理,可用一条 dsh plugin --profile <你的 profile> add github:ARustamA/dsh-strata-monitor 装上,按需配置 STRATA_URL 后重启 host 即可。

  • 目录页:https://www.skillhub.cn/plugins/ARustamA/dsh-strata-monitor
  • GitHub:https://github.com/ARustamA/dsh-strata-monitor
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye