dsh-arena:DeepSeek Harness 的本地實驗與評估工作臺插件

前言

做 DSH 插件或候選 profile 對比時,常見的問題是:同一個任務、同一份倉庫快照下,多個候選 profile 誰更穩?哪些跑法應該先被硬門檻攔下來?質量、時長、token、成本之間怎麼做取捨?

dsh-arena 針對這類本地實驗:用同一個任務、同一份倉庫快照對比多個候選 profile,先做確定性 hard gates,再做 Pareto 排名與 winner 彙總,並能在 Web 矩陣裏查看結果。下面介紹它的定位、能力、安裝方式和適用邊界。

這是什麼

dsh-arena 是 DeepSeek Harness(DSH)的本地實驗與評估工作臺插件。維護者是 Apageoflove,許可證爲 MIT

package.json 中聲明版本爲 0.2.0,並設置 private: true;已覈實資料說明它還沒發 npm。

它把下面這些事情放在一個本地工作臺裏:

  • 同一個任務、同一份倉庫快照下的候選 profile 對比
  • 確定性 hard gates
  • Pareto 排名與 winner 彙總
  • 本地持久化、運行隊列、中止和超時
  • Web 矩陣界面
  • 導出報告前自動脫敏常見憑據
  • 導入本地 Arena JSON 報告並離線渲染

核心能力

候選 profile 對比

先做同一任務、同一份倉庫快照下的對比,再比較多個候選 profile 的運行結果。

hard gates 與 Pareto

  • Hard gates 是確定性的:不滿足直接判失敗,不進入排序。
  • 排序使用 Pareto 排名,並彙總 winner。
  • 報告相關視圖包含 run 與 hard gate 狀態、質量、時長、token、成本指標、Pareto 候選與建議 winner、審計告警。

本地運行與持久化

  • 本地持久化是原子化的。
  • 運行隊列有併發上限。
  • 支持中止和超時。
  • 路徑都限制在 dataRoot 內,越界路徑直接拒絕。
  • 可以通過 persistencePath: false 關閉持久化。

adapter 驅動

執行走 adapter 驅動,不猜、不調 DSH 沒文檔化的 headless 命令。

只有 bindExecutor 能創建運行編排器,adapter 必須由調用方傳入。它不會自己發明 DSH headless 命令,也不會悄悄發起模型調用。

Web 矩陣與離線報告

  • Web 矩陣界面即時刷新。
  • 支持導入本地 Arena JSON 報告,並離線渲染候選/模型運行矩陣、run 與 hard gate 狀態、質量/時長/token/成本指標、Pareto 候選與建議 winner、審計告警。
  • 導出 JSON/JSONL/Markdown 前,會按字段名和值對內聯的 authorization / token / key / secret / password / cookie 做脫敏。
  • 文件留在瀏覽器裏,沒有上傳或遙測。

安裝與啓用

先構建,再執行安裝和驗證命令:

npm run build
npm test
pnpm dsh plugin --profile arena add <本目錄路徑>
pnpm dsh --profile arena --dump-config
pnpm dsh --profile arena web

如果用本地 tgz 文件安裝,可以使用:

pnpm dsh plugin --profile arena add dsh-arena-0.2.0.tgz

經過上面的步驟後,pnpm dsh --profile arena --dump-config 用來查看配置,pnpm dsh --profile arena web 用來啓動 Web 端。

典型用法

構建與測試

npm run build
npm test

已覈實資料中,package.jsonengines 要求 node >=22.18.0,並提到 Node 24 上構建和測試不需要額外依賴。

本地開發 patch

本地開發可以使用 cordis.local.patch.yml

pnpm dsh web --patch <本目錄>/cordis.local.patch.yml

這個命令使用本目錄下的 cordis.local.patch.yml 作爲本地 patch。

運行邊界

  • 第一次修改前先 await arena.ready
  • 只有 bindExecutor 能創建運行編排器,adapter 必須由調用方傳入。
  • 路徑都限制在 dataRoot 內,越界路徑直接拒絕。
  • Windows 上 pnpm/dsh.cmd 啓動器,必須經命令解釋器拉起。
  • 任務文本拼入命令前已做引號轉義。

適用場景與注意

適合在本地做 DSH 候選 profile 對比、hard gates 判定、Pareto 排名、報告導出和 Web 查看的開發者。

安裝前建議檢查源碼與許可證。本項目許可證爲 MIT。插件會以當前 dsh 進程權限運行,安裝前確認你信任該目錄中的代碼。

需要注意的邊界:

  • 只按官方文檔化的 Cordis 契約寫;不碰 DSH Client/Host 沒文檔化的內部接口。
  • 能力識別用特性探測(ctx.arena),不用私有槽位。
  • 真實 DSH 上的 Web / Headless E2E 還沒跑通,所以本倉庫不聲稱 100% 兼容。
  • dsh.compatibility.dshReleases0.1.0-rc.80.1.1-rc.10.1.1-rc.2 均爲 unknown
  • peerDependencies 要求 @deepseek-ai/cordis ^4.0.1@deepseek-ai/schemastery ^3.18.1
  • 已覈實資料只給出本地路徑或本地 tgz 的安裝命令,沒有給出 npm 包安裝方式或遠端安裝命令。

結尾

dsh-arena 的價值是把 DSH 候選 profile 的本地評估流程集中起來:hard gates、Pareto、指標、脫敏報告和本地 Web 查看都在一個工作臺裏完成。

GitHub:https://github.com/Apageoflove/DSH-arena

社區目錄頁:已覈實資料未提供 URL。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜