前言¶
做 DSH 插件或候選 profile 對比時,常見的問題是:同一個任務、同一份倉庫快照下,多個候選 profile 誰更穩?哪些跑法應該先被硬門檻攔下來?質量、時長、token、成本之間怎麼做取捨?
dsh-arena 針對這類本地實驗:用同一個任務、同一份倉庫快照對比多個候選 profile,先做確定性 hard gates,再做 Pareto 排名與 winner 彙總,並能在 Web 矩陣裏查看結果。下面介紹它的定位、能力、安裝方式和適用邊界。
這是什麼¶
dsh-arena 是 DeepSeek Harness(DSH)的本地實驗與評估工作臺插件。維護者是 Apageoflove,許可證爲 MIT。
package.json 中聲明版本爲 0.2.0,並設置 private: true;已覈實資料說明它還沒發 npm。
它把下面這些事情放在一個本地工作臺裏:
- 同一個任務、同一份倉庫快照下的候選 profile 對比
- 確定性 hard gates
- Pareto 排名與 winner 彙總
- 本地持久化、運行隊列、中止和超時
- Web 矩陣界面
- 導出報告前自動脫敏常見憑據
- 導入本地 Arena JSON 報告並離線渲染
核心能力¶
候選 profile 對比¶
先做同一任務、同一份倉庫快照下的對比,再比較多個候選 profile 的運行結果。
hard gates 與 Pareto¶
- Hard gates 是確定性的:不滿足直接判失敗,不進入排序。
- 排序使用 Pareto 排名,並彙總 winner。
- 報告相關視圖包含 run 與 hard gate 狀態、質量、時長、token、成本指標、Pareto 候選與建議 winner、審計告警。
本地運行與持久化¶
- 本地持久化是原子化的。
- 運行隊列有併發上限。
- 支持中止和超時。
- 路徑都限制在
dataRoot內,越界路徑直接拒絕。 - 可以通過
persistencePath: false關閉持久化。
adapter 驅動¶
執行走 adapter 驅動,不猜、不調 DSH 沒文檔化的 headless 命令。
只有 bindExecutor 能創建運行編排器,adapter 必須由調用方傳入。它不會自己發明 DSH headless 命令,也不會悄悄發起模型調用。
Web 矩陣與離線報告¶
- Web 矩陣界面即時刷新。
- 支持導入本地 Arena JSON 報告,並離線渲染候選/模型運行矩陣、run 與 hard gate 狀態、質量/時長/token/成本指標、Pareto 候選與建議 winner、審計告警。
- 導出 JSON/JSONL/Markdown 前,會按字段名和值對內聯的
authorization/token/key/secret/password/cookie做脫敏。 - 文件留在瀏覽器裏,沒有上傳或遙測。
安裝與啓用¶
先構建,再執行安裝和驗證命令:
npm run build
npm test
pnpm dsh plugin --profile arena add <本目錄路徑>
pnpm dsh --profile arena --dump-config
pnpm dsh --profile arena web
如果用本地 tgz 文件安裝,可以使用:
pnpm dsh plugin --profile arena add dsh-arena-0.2.0.tgz
經過上面的步驟後,pnpm dsh --profile arena --dump-config 用來查看配置,pnpm dsh --profile arena web 用來啓動 Web 端。
典型用法¶
構建與測試¶
npm run build
npm test
已覈實資料中,package.json 的 engines 要求 node >=22.18.0,並提到 Node 24 上構建和測試不需要額外依賴。
本地開發 patch¶
本地開發可以使用 cordis.local.patch.yml:
pnpm dsh web --patch <本目錄>/cordis.local.patch.yml
這個命令使用本目錄下的 cordis.local.patch.yml 作爲本地 patch。
運行邊界¶
- 第一次修改前先
await arena.ready。 - 只有
bindExecutor能創建運行編排器,adapter 必須由調用方傳入。 - 路徑都限制在
dataRoot內,越界路徑直接拒絕。 - Windows 上
pnpm/dsh是.cmd啓動器,必須經命令解釋器拉起。 - 任務文本拼入命令前已做引號轉義。
適用場景與注意¶
適合在本地做 DSH 候選 profile 對比、hard gates 判定、Pareto 排名、報告導出和 Web 查看的開發者。
安裝前建議檢查源碼與許可證。本項目許可證爲 MIT。插件會以當前 dsh 進程權限運行,安裝前確認你信任該目錄中的代碼。
需要注意的邊界:
- 只按官方文檔化的 Cordis 契約寫;不碰 DSH Client/Host 沒文檔化的內部接口。
- 能力識別用特性探測(
ctx.arena),不用私有槽位。 - 真實 DSH 上的 Web / Headless E2E 還沒跑通,所以本倉庫不聲稱 100% 兼容。
dsh.compatibility.dshReleases中0.1.0-rc.8、0.1.1-rc.1、0.1.1-rc.2均爲unknown。peerDependencies要求@deepseek-ai/cordis ^4.0.1和@deepseek-ai/schemastery ^3.18.1。- 已覈實資料只給出本地路徑或本地 tgz 的安裝命令,沒有給出 npm 包安裝方式或遠端安裝命令。
結尾¶
dsh-arena 的價值是把 DSH 候選 profile 的本地評估流程集中起來:hard gates、Pareto、指標、脫敏報告和本地 Web 查看都在一個工作臺裏完成。
GitHub:https://github.com/Apageoflove/DSH-arena
社區目錄頁:已覈實資料未提供 URL。