前言¶
在模型推理的開發與調試中，單純獲取平均延遲往往不足以反映系統的性能瓶頸。對於需要精確評估響應質量的場景，計算延遲百分位是必要的手段。DeepSeek Harness（DSH）採用插件化架構，支持通過社區插件擴展能力。下面介紹的是 dsh-latency-pct，一個專注於延遲百分位計算的插件。
是什麼¶
dsh-latency-pct 是一個 DSH 插件，由 uckkk 維護。其核心價值在於按參數精確計算延遲百分位，並返回詳細結果。該插件採用純 Node.js 實現，不依賴網絡環境，可以直接在本地運行。
核心功能¶
- 延遲百分位計算：支持按參數進行精確計算。
- 詳細結果返回：計算完成後輸出詳細數據。
- 無網絡依賴：純 Node 實現，無需聯網即可運行。
安裝與啓用¶
在終端中執行以下命令安裝該插件：
dsh plugin add github:uckkk/dsh-latency-pct
安裝完成後，插件會在當前的 DSH 會話中註冊相應的工具。
典型用法¶
安裝並在會話中激活該插件後，直接調用插件註冊的工具即可使用。具體調用方式需參照當前會話中可用的工具列表。
適用場景與注意¶
- 適用場景：需要量化分析模型推理延遲分佈的開發與調試場景。
- 依賴要求：安裝前需確保環境滿足以下 peerDependencies：
@deepseek-ai/cordis >=4.0.1@deepseek-ai/dsh-tools >=0.1.0-rc.6- 權限注意：該插件以當前 DSH 進程的權限運行，使用前建議檢查源碼與許可證（MIT）。
結語¶
通過上述步驟，即可在本地環境中獲得精確的延遲百分位數據。更多細節可參考插件目錄或源碼倉庫。
- 插件目錄：https://www.skillhub.cn/plugins/uckkk/dsh-latency-pct
- 源碼倉庫：https://github.com/uckkk/dsh-latency-pct
