前言¶
在 DeepSeek Harness(DSH)里跑模型推理时,回答变慢或显存吃紧,常见做法是另开 nvidia-smi、任务管理器或第三方面板对照聊天窗口。硬件指标和当前会话的生成速度、上下文占用、最近请求往往分散在不同工具里,排障时要来回切换。
PriRex Monitor(仓库名 prirex-monitoring-deepseek-harness)是维护者 Prirex 发布的 DSH Web 插件,在侧边栏增加 Monitor 入口,并在主面板提供整机采样与会话 Token 统计合一的遥测页。数据通过本机 HTTP 路由与 SSE 推送,不依赖外网。本文按官方 README 与 package.json(当前版本 1.0.2,MIT 许可证)说明其能力、安装与配置。
这是什么¶
插件分 Host 与 Browser 两半:index.js 按固定间隔采样传感器、从会话事件流累计 Token,并暴露 JSON 与 SSE 两条本地路由;client.js(由 client.template.js 构建,安装时仓库已提交产物)负责侧边栏与页面 UI,仅用 React.createElement,样式跟 DSH 主题令牌。
分类上属于模型推理相关能力:侧重推理阶段的硬件与会话可观测性,而非替换 DSH 自带的聊天或模型配置。
核心功能¶
页面展示的指标¶
| 区域 | 内容 |
|---|---|
| Speed | 当前会话 tokens/s;0 tok/s 表示模型空闲 |
| GPU load | 利用率 %,带 40 点迷你折线 |
| VRAM | 已用 / 总量(GB) |
| GPU temperature | °C;超过配置阈值时折线变为警告色 |
| Power | 功耗 / 上限(W) |
| PCIe | 链路代数与宽度(如 Gen4 x16) |
| CPU | 总负载 % |
| Disk | 平台支持时显示读吞吐(B/s);Windows 无字节速率来源时显示系统盘剩余空间 |
卡片下方还有:自 Host 启动以来的能耗(Wh,由 GPU 功耗积分)、GPU 风扇(%)、GPU 时钟(MHz)、context fill 环(已用 / 窗口 Token)、recent requests 表(时间、状态、模型、input tokens、cache-read tokens、output tokens、cache share)。
页面右上角提供 RU / EN / ZH 语言切换,标签、状态、表头与数字/时间格式会随语言重渲染,选择保存在浏览器 localStorage;下次启动 Host 时侧边栏条目标签也会跟随已保存语言(v1.0.2)。
数据来源与更新方式¶
NVIDIA 场景优先调用 nvidia-smi(利用率、风扇、PCIe 宽度等);无 NVIDIA 工具时回退到 systeminformation,AMD/Intel 仍可得到负载、温度、功耗与 VRAM 等。Token 行来自当前 DSH 会话事件流。
采样默认每 500 ms 通过 SSE(/api/prirex-monitor/stream,含 retry: 2000)推送到页面;流不可用时客户端每 2 s 轮询 JSON 快照路由。README 强调:仅同源 GET/HEAD,无出站流量、无任意文件系统访问;nvidia-smi 以固定参数向量拉起。
安装与启用¶
环境要求:带 Web 界面的 DeepSeek Harness,Node.js ≥ 20。
从 GitHub 安装:在 DSH 中选择 Plugins → Install bundle → GitHub,仓库名填写:
Prirex/PriRex-Monitoring-DeepSeek-Harness
client.js 已提交到仓库,安装阶段无需本地 build。
从本地目录安装:Plugins → Install bundle → local path,指向插件目录。DSH 会通过目录联结链接到 node_modules/prirex-monitoring-deepseek-harness。
两种来源不要同时占用同一槽位。若先做了本地联结再装 GitHub 版,可能出现 [ERR_PNPM_EPERM] importPackage。需先关闭 DSH,再删除联结(项目文件夹保留),例如在 Windows 上:
cmd /c rmdir "%USERPROFILE%\.dsh\profiles\desktop\node_modules\prirex-monitoring-deepseek-harness"
捆绑的 cordis.patch.yml 会自动插入 prirex-monitor 行,一般无需手改补丁。
配置¶
默认值在 index.js;可在 Profile 的 cordis.patch.yml 中覆盖,例如:
- id: prirex-monitor
name: prirex-monitoring-deepseek-harness
config:
refreshMs: 500 # 采样间隔,下限 200 ms
overheatC: 80 # 超过该温度时温度折线显示警告色
ratesUsdPerMillion: # 用于 JSON 快照中 tokens.costUsd
input: 0.27
output: 1.1
典型用法¶
- 按上一节完成安装并重启或加载 Profile,使
cordis.patch.yml生效。 - 在 DSH 侧边栏打开 Monitor,主面板进入遥测页。
- 在同一会话中发起模型请求:观察 Speed 与 context fill 环是否随生成变化;在 recent requests 表中核对单次请求的 Token 与 cache 相关列。
- 需要脚本或外部面板集成时,可对本地路由拉取快照:
GET /api/prirex-monitor/telemetry # JSON
GET /api/prirex-monitor/stream # SSE
页面语言在右上角切换即可,无需改配置文件。
适用场景与注意¶
适合:在本机 DSH 上调试推理性能、显存与功耗;希望在一次聊天会话里同时看到「机器是否在忙」和「上下文是否快满」的开发者。
权限与安全:插件以当前 DSH 进程权限运行,会周期性执行传感器读取(含 nvidia-smi 子进程)。安装前建议阅读仓库 SECURITY.md 与源码,确认与自身环境一致。跨站 Origin 不匹配或 Sec-Fetch-Site: cross-site 的请求会被拒绝(403)。
平台差异:Windows 上磁盘卡片在无字节速率提供者时显示系统卷剩余空间(v1.0.1);无 NVIDIA 时 GPU 部分指标依赖 systeminformation,与 nvidia-smi 路径可能不完全一致。
社区目录(如 SkillHub 插件页)用于发现与归类,与 DeepSeek / 幻方无官方从属关系;安装来源以 GitHub 仓库说明为准。
结尾¶
PriRex Monitor 把本机硬件采样、会话 Token 速度与上下文占用、最近请求记录收拢到 DSH 内的一页,并用 SSE 保持近实时更新。若你经常在 DSH 里做本地或自托管推理,可把 Monitor 当作常驻面板,减少在聊天窗口与系统监控工具之间切换。