dsh-speed-monitor:在 DSH 面板里测模型的流式速度

这篇介绍 DSH 插件 dsh-speed-monitor(doraasn 维护,MIT,版本 0.9.8)。它给 DSH 加一个侧栏入口,右侧面板用 DSH 自己的模型清单对中转/官方接口做流式测速,默认每分钟一轮,可同时测多个模型。文章写清采样方法(预热丢弃、3 次取中位数、多模型串行间隔 300ms、失败记 ok/runs)、指标口径(ttfb_ms/decode_ms/total_ms/tps_decode/tps_e2e)、配置与存储路径,以及 README 里给出的界面安装步骤和四个 HTTP 接口。也说明了密钥从 ~/.dsh/.credentials.yaml 读取、断档处曲线不连线的原因,并提醒插件以当前 DSH 进程权限运行、安装前先核对源码与许可证。

阅读全文