dsh-model-deploy
`dsh-model-deploy` 是 DeepSeek Harness (DSH) 的一个插件,旨在通过基准测试解决模型在目标硬件上的性能达标问题。该插件提供从模型静态检查、环境探测到本地及 SSH 远程基准测试的完整链路,支持设置门控阈值验证结果。 用户需安装 Python 依赖及 ONNX Runtime(含 GPU 支持)并配置 SSH。它通过 CLI 和 DSH 工具集提供模型检查、环境探测和性能测试功能,支持动态输入模型,并能检测执行提供者回退情况。当前版本(V0.1)暂不支持 TensorRT 等后端。
阅读全文dsh-batch-regression:同一命令跑 N 轮,用中位数代替单次结果下结论
# 前言 做过性能调优的人大多遇到过这种情况:跑一次基准测试,输出 1200ms;换个时间再跑,变成 1900ms。改了一行代码想验证有没有变快,跑一次觉得快了,再跑一次又觉得是错觉。单次结果带着环境噪声,直接拿它下结论不可靠。 DSH 的理念是「一切皆插件」,这类问题也有对应的插件来解。下面介绍 PangYiMing 维护的 dsh-batch-regression:把同一条命令跑 N 轮,取中位数和分布,用统计而不是单次结果下结论。 # 这是什么 dsh-batch-regression 是一个 DeepSeek Harness(DSH)插件,定位一
阅读全文