前言¶
在 DeepSeek Harness(DSH)的工作流中,驗證插件變更或預設差異是常見需求。dsh-plugin-compare 提供了這種能力。它將執行證據轉化爲對比時間軸和報告。
插件定位¶
- 名稱:
dsh-plugin-compare - 作者:yminghua
- 定位:控制 A/B 對比及基於證據的報告,用於 DSH 插件和預設。
核心能力¶
- 對比插件與預設:支持基於現有會話進行對比,或運行受控的 A/B 實驗組。
- 證據報告:生成並排時間軸、可測量的增量(Delta)、顯式的成功檢查結果。
- 受控運行:自動複製工作區、提交相同提示詞、捕獲 Git 證據。
- 導出格式:支持 HTML、JSON、SVG、PNG 等多種格式。
- 統計指標:顯示時間與 Token 的均值、中位數增量,以及 Student-t 95% 區間。
安裝與啓用¶
該插件需要 Node.js 22.19+ 和一個 DSH Web profile。
安裝穩定版:
dsh plugin --profile web add dsh-plugin-compare
安裝預發佈版(需明確宣佈):
dsh plugin --profile web add dsh-plugin-compare@next
安裝或更新後,需停止當前運行的 Web Host 並重啓:
# 停止運行
Ctrl+C
# 啓動
dsh web
重啓後,DSH Web 界面中會出現 Compare 面板。
典型用法¶
準備測試環境:
node example/prepare.mjs
隨後可以參考倉庫中的中文分步指南,對比 Standard 與 dsh-expert-mode 等預設,檢查結果並導出報告。
注意事項¶
- 數據隱私:導出的 HTML、JSON、SVG、PNG、截圖可能包含提示詞、源路徑、代碼差異、命令輸出、提供商/模型名稱、Session ID。自動脫敏是盡力而爲的,不是隱私審批。分享前必須手動審查並移除敏感信息。
- 統計含義:區間描述的是小樣本下的觀察變異,不自動確立優勝者或因果結論。
- 文件處理:依賴目錄被排除在副本之外,外部符號鏈接被拒絕,Git worktree 指針文件不會被複制回實驗環境。
- 失敗處理:如果 Agent 在完成任務前失敗,結構化失敗信息會被顯示和導出,成功檢查命令會被標記爲未運行,且對比會被標記爲無效。
參考資料¶
- GitHub 倉庫:https://github.com/yminghua/dsh-plugin-compare
- 技能中心目錄:https://www.skillhub.cn/plugins/yminghua/dsh-plugin-compare