dsh-tps-meter:DeepSeek Harness Web 界面实时 tok/s 悬浮窗

前言

DeepSeek Harness(DSH)在处理复杂任务时,开发者往往需要监控模型生成的速率与首 Token 延迟(TTFT)。直接在终端或日志中查看并不直观。dsh-tps-meter 插件在 DSH Web 界面提供了一个可拖动的悬浮窗,用于实时显示会话输出的吞吐量。

核心功能

该插件提供以下功能:
* 双口径切换:支持实时与均速两种显示模式的切换。
* 会话管理:提供会话列表,支持拖动位置、折叠、关闭以及恢复已关闭会话。
* 关键指标:显示本步 Token 数、累计 Token 数、首 Token 延迟(TTFT)。
* 波形可视化:在实时模式下显示生成速率波形。
* 轻量实现:零第三方依赖,仅使用 Node 内置模块。
* 自更新提示:检测到新版本时,在头部显示更新图标 ⟳。

安装与启用

使用 DSH CLI 安装该插件:

dsh plugin --profile web add dsh-tps-meter

安装完成后,刷新 Web 界面页面即可看到悬浮窗。

使用方法

  1. 切换速度口径:点击悬浮窗右上角的按钮,可在“实时”和“均速”之间切换。
  2. 管理会话:
    • 关闭会话:双击已结束的会话名称,将其从浮窗中移除。
    • 恢复会话:双击列表底部的“…N 个已关闭(点此恢复)”可找回所有被关闭的会话。
  3. 查看详情:双击会话名可切换当前选中的会话,此时该会话名称以绿色高亮显示。

技术说明

  • 权限与网络:插件运行期只读取会话事件,不写入日志、不发起模型请求。不联网,浮窗仅轮询本机 127.0.0.1 上的 DSH 服务。
  • 计算逻辑:
    • 实时口径:窗口内估算 token ÷ 窗口真实跨度。在空闲时显示 0.0。
    • 均速口径:本步 token ÷ (当前时刻 - 首 token 时刻)。在空闲时显示上一步平均值。
  • 限制:估算不是计费口径。多标签页各自轮询。会话识别靠“最活跃”排序。

维护者

该插件由 looking321-rt 维护,采用 MIT 许可证。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜