dsh-model-deploy
`dsh-model-deploy` 是 DeepSeek Harness (DSH) 的一个插件，旨在通过基准测试解决模型在目标硬件上的性能达标问题。该插件提供从模型静态检查、环境探测到本地及 SSH 远程基准测试的完整链路，支持设置门控阈值验证结果。 用户需安装 Python 依赖及 ONNX Runtime（含 GPU 支持）并配置 SSH。它通过 CLI 和 DSH 工具集提供模型检查、环境探测和性能测试功能，支持动态输入模型，并能检测执行提供者回退情况。当前版本（V0.1）暂不支持 TensorRT 等后端。
阅读全文DeepSeek Harness 插件：dsh-model-deploy
DeepSeek Harness 插件 `dsh-model-deploy` 旨在解决 LLM 模型部署前的选型与资源分析问题。该工具支持 38 个模型与 20 款硬件的跨平台分析，涵盖显存拆解、时延、吞吐量、功耗估算及并行策略选择。用户通过指定 profile 安装并重启即可使用，其公开的估算公式已通过真实部署锚点校验，适合在采购前进行快速验证与容量规划。
阅读全文