在调试或优化 DeepSeek Harness (DSH) Web 交互时,开发者通常需要在模型生成过程中实时掌握解码吞吐量 (tok/s) 和首字延迟 (TTFT)。dsh-live-perf-gauges 插件在 Web 界面的编辑器下方提供了一条类似汽车仪表盘的实时性能条带,用于展示这些关键指标。
这是 DeepSeek Harness Web 的一个客户端插件,由维护者 TnzGit 开发,采用 MIT 许可证。它不依赖后端,通过投影会话事件流来实现性能监控。
核心功能¶
该插件主要提供以下监控能力:
- 解码 tok/s:在生成过程中每 250 毫秒刷新一次。当适配器提供累积使用量时采用该数据,否则根据同一会话已完成步骤的字符/Token 比率进行估算。
- TTFT 测量:计算从
step/start到第一个流式文本、推理或工具参数增量出现的时间差。 - Prompt/TTFT 计算:逻辑提示词(输入 + 缓存读写)除以端到端 TTFT。该指标反映了 DSH 开销、网络/排队时间以及缓存 Token 的影响。
- 流事件报告:报告每个事件的逻辑增量以及每个事件生成的 Token 数。在接收提供者使用量后,后者是精确的。
- 输出进度:显示生成的 Token 进度。
- 隐私保护:不接触网络服务,不存储消息文本、提示词、工具或凭据。仅投影时间戳、计数和最终 Token 使用量。
安装与启用¶
- 执行以下命令安装插件:
dsh plugin --profile web add github:TnzGit/dsh-live-perf-gauges
- 安装完成后,需重启正在运行的
dsh web服务。 - 在浏览器中硬刷新页面。条带将在下一次模型步骤开始后出现在编辑器下方。
技术细节与注意事项¶
- 插件基于 DSH 0.1.x Web 配置文件,使用
conversation.composer.dock、sessionProjections和contextPressure接口。 - 一个 SSE 事件不等于一个 Token。这对推测解码 (MTP) 至关重要:一个被接受的 MTP 组可以在一个流式事件中传递多个生成的 Token。
- 插件不包含网络交互,也不存储会话数据,仅依赖会话事件流中已有的时间戳和计数。
总结¶
该插件适合需要在本地监控性能指标且注重数据隐私的开发者。项目代码托管在 GitHub 上,可通过目录页访问。