dsh-model-deploy
`dsh-model-deploy` 是 DeepSeek Harness (DSH) 的一個插件，旨在通過基準測試解決模型在目標硬件上的性能達標問題。該插件提供從模型靜態檢查、環境探測到本地及 SSH 遠程基準測試的完整鏈路，支持設置門控閾值驗證結果。 用戶需安裝 Python 依賴及 ONNX Runtime（含 GPU 支持）並配置 SSH。它通過 CLI 和 DSH 工具集提供模型檢查、環境探測和性能測試功能，支持動態輸入模型，並能檢測執行提供者回退情況。當前版本（V0.1）暫不支持 TensorRT 等後端。
閱讀全文DeepSeek Harness 插件：dsh-model-deploy
DeepSeek Harness 插件 `dsh-model-deploy` 旨在解決 LLM 模型部署前的選型與資源分析問題。該工具支持 38 個模型與 20 款硬件的跨平臺分析，涵蓋顯存拆解、時延、吞吐量、功耗估算及並行策略選擇。用戶通過指定 profile 安裝並重啓即可使用，其公開的估算公式已通過真實部署錨點校驗，適合在採購前進行快速驗證與容量規劃。
閱讀全文