PriRex Monitor:在 DSH 一页查看本机硬件与会话 Token 遥测

前言

在 DeepSeek Harness(DSH)里跑模型推理时,回答变慢或显存吃紧,常见做法是另开 nvidia-smi、任务管理器或第三方面板对照聊天窗口。硬件指标和当前会话的生成速度、上下文占用、最近请求往往分散在不同工具里,排障时要来回切换。

PriRex Monitor(仓库名 prirex-monitoring-deepseek-harness)是维护者 Prirex 发布的 DSH Web 插件,在侧边栏增加 Monitor 入口,并在主面板提供整机采样与会话 Token 统计合一的遥测页。数据通过本机 HTTP 路由与 SSE 推送,不依赖外网。本文按官方 README 与 package.json(当前版本 1.0.2,MIT 许可证)说明其能力、安装与配置。

这是什么

插件分 Host 与 Browser 两半:index.js 按固定间隔采样传感器、从会话事件流累计 Token,并暴露 JSON 与 SSE 两条本地路由;client.js(由 client.template.js 构建,安装时仓库已提交产物)负责侧边栏与页面 UI,仅用 React.createElement,样式跟 DSH 主题令牌。

分类上属于模型推理相关能力:侧重推理阶段的硬件与会话可观测性,而非替换 DSH 自带的聊天或模型配置。

核心功能

页面展示的指标

区域 内容
Speed 当前会话 tokens/s;0 tok/s 表示模型空闲
GPU load 利用率 %,带 40 点迷你折线
VRAM 已用 / 总量(GB)
GPU temperature °C;超过配置阈值时折线变为警告色
Power 功耗 / 上限(W)
PCIe 链路代数与宽度(如 Gen4 x16)
CPU 总负载 %
Disk 平台支持时显示读吞吐(B/s);Windows 无字节速率来源时显示系统盘剩余空间

卡片下方还有:自 Host 启动以来的能耗(Wh,由 GPU 功耗积分)、GPU 风扇(%)、GPU 时钟(MHz)、context fill 环(已用 / 窗口 Token)、recent requests 表(时间、状态、模型、input tokens、cache-read tokens、output tokens、cache share)。

页面右上角提供 RU / EN / ZH 语言切换,标签、状态、表头与数字/时间格式会随语言重渲染,选择保存在浏览器 localStorage;下次启动 Host 时侧边栏条目标签也会跟随已保存语言(v1.0.2)。

数据来源与更新方式

NVIDIA 场景优先调用 nvidia-smi(利用率、风扇、PCIe 宽度等);无 NVIDIA 工具时回退到 systeminformation,AMD/Intel 仍可得到负载、温度、功耗与 VRAM 等。Token 行来自当前 DSH 会话事件流。

采样默认每 500 ms 通过 SSE(/api/prirex-monitor/stream,含 retry: 2000)推送到页面;流不可用时客户端每 2 s 轮询 JSON 快照路由。README 强调:仅同源 GET/HEAD,无出站流量、无任意文件系统访问;nvidia-smi 以固定参数向量拉起。

安装与启用

环境要求:带 Web 界面的 DeepSeek Harness,Node.js ≥ 20。

从 GitHub 安装:在 DSH 中选择 Plugins → Install bundle → GitHub,仓库名填写:

Prirex/PriRex-Monitoring-DeepSeek-Harness

client.js 已提交到仓库,安装阶段无需本地 build。

从本地目录安装:Plugins → Install bundle → local path,指向插件目录。DSH 会通过目录联结链接到 node_modules/prirex-monitoring-deepseek-harness。

两种来源不要同时占用同一槽位。若先做了本地联结再装 GitHub 版,可能出现 [ERR_PNPM_EPERM] importPackage。需先关闭 DSH,再删除联结(项目文件夹保留),例如在 Windows 上:

cmd /c rmdir "%USERPROFILE%\.dsh\profiles\desktop\node_modules\prirex-monitoring-deepseek-harness"

捆绑的 cordis.patch.yml 会自动插入 prirex-monitor 行,一般无需手改补丁。

配置

默认值在 index.js;可在 Profile 的 cordis.patch.yml 中覆盖,例如:

- id: prirex-monitor
  name: prirex-monitoring-deepseek-harness
  config:
    refreshMs: 500              # 采样间隔,下限 200 ms
    overheatC: 80               # 超过该温度时温度折线显示警告色
    ratesUsdPerMillion:         # 用于 JSON 快照中 tokens.costUsd
      input: 0.27
      output: 1.1

典型用法

  1. 按上一节完成安装并重启或加载 Profile,使 cordis.patch.yml 生效。
  2. 在 DSH 侧边栏打开 Monitor,主面板进入遥测页。
  3. 在同一会话中发起模型请求:观察 Speed 与 context fill 环是否随生成变化;在 recent requests 表中核对单次请求的 Token 与 cache 相关列。
  4. 需要脚本或外部面板集成时,可对本地路由拉取快照:
GET /api/prirex-monitor/telemetry   # JSON
GET /api/prirex-monitor/stream      # SSE

页面语言在右上角切换即可,无需改配置文件。

适用场景与注意

适合:在本机 DSH 上调试推理性能、显存与功耗;希望在一次聊天会话里同时看到「机器是否在忙」和「上下文是否快满」的开发者。

权限与安全:插件以当前 DSH 进程权限运行,会周期性执行传感器读取(含 nvidia-smi 子进程)。安装前建议阅读仓库 SECURITY.md 与源码,确认与自身环境一致。跨站 Origin 不匹配或 Sec-Fetch-Site: cross-site 的请求会被拒绝(403)。

平台差异:Windows 上磁盘卡片在无字节速率提供者时显示系统卷剩余空间(v1.0.1);无 NVIDIA 时 GPU 部分指标依赖 systeminformation,与 nvidia-smi 路径可能不完全一致。

社区目录(如 SkillHub 插件页)用于发现与归类,与 DeepSeek / 幻方无官方从属关系;安装来源以 GitHub 仓库说明为准。

结尾

PriRex Monitor 把本机硬件采样、会话 Token 速度与上下文占用、最近请求记录收拢到 DSH 内的一页,并用 SSE 保持近实时更新。若你经常在 DSH 里做本地或自托管推理,可把 Monitor 当作常驻面板,减少在聊天窗口与系统监控工具之间切换。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜