dsh-model-deploy
`dsh-model-deploy` 是 DeepSeek Harness (DSH) 的一个插件,旨在通过基准测试解决模型在目标硬件上的性能达标问题。该插件提供从模型静态检查、环境探测到本地及 SSH 远程基准测试的完整链路,支持设置门控阈值验证结果。 用户需安装 Python 依赖及 ONNX Runtime(含 GPU 支持)并配置 SSH。它通过 CLI 和 DSH 工具集提供模型检查、环境探测和性能测试功能,支持动态输入模型,并能检测执行提供者回退情况。当前版本(V0.1)暂不支持 TensorRT 等后端。
阅读全文