dsh-model-arena:同一提示詞多模型並排對比與評測

前言

在 DeepSeek Harness(DSH)裏接入多個模型後,常見做法是逐個切換模型、重複粘貼同一段提示詞,再憑印象判斷誰更合適。這種方式難以保證參數一致,也不方便留存每次輸出。若你希望在同一套提示與參數下批量跑模型、做行級 diff、打分並彙總排行榜,下面介紹社區插件 dsh-model-arena 的定位與用法。

這是什麼

dsh-model-arena 由維護者 hj01857655 發佈,npm 包描述爲:對當前可用的每個模型跑同一條 prompt,並排查看差異(Run the same prompt through every model you have, and see the difference without squinting)。

插件面向 DSH web profile:安裝命令帶 --profile web,並在 Settings 中提供 Model arena 面板(依賴宿主註冊 GET /api/model-arena.panel;無 Web 界面的 headless 宿主可跳過該路由)。

來源與歸檔說明(SkillHub 目錄頁): 獨立倉庫 hj01857655/dsh-model-arena 在目錄中標註爲「已歸檔」,並說明已合併進 monorepo https://github.com/hj01857655/dsh-plugins。截至覈對時,原 GitHub 倉庫地址返回 404;monorepo 的 README 亦寫明 dsh-model-arena 等 7 個包已從工作區移除,仍通過 npm 發佈,安裝方式不變。目錄頁顯示可安裝版本 v0.5.1(約 5 天前更新);npm 上最新爲 0.6.1(MIT,Node >=20)。

DSH 生態強調「一切皆插件」;SkillHub(skillhub.cn)是社區目錄站點,與 DeepSeek / 幻方無官方從屬關係,下文不將其表述爲官方應用商店。

核心功能

以下能力來自 npm 發佈包內 README(與 unpkg 上 dsh-model-arena@0.6.1 文檔一致):

  1. 多模型同 prompt 運行:相同 prompt、相同參數,收集各模型輸出並並排展示。
  2. Compare:任意兩次運行結果之間做行級 diff(增刪行與未改行),並彙總變更行數。
  3. Score:自動評分(長度、延遲、reference match)與人工評分(1–5);分數按 run 持久化,後續補評會更新排行榜。
  4. Leaderboard:跨 run 聚合,按勝率、平均分、總 run 數等排序。
  5. Benchmark suites:保存命名的一組 prompt + 模型;變更後重跑,得到迴歸報告(哪些模型變好/變差)。
  6. Panel:Settings 中的 Model arena 頁,可查看近期 run、對比視圖、自動分與用戶評分、排行榜與迴歸報告。
  7. CLI:提供 dsh-model-arena 命令,README 寫明可在不啓動完整 dsh 交互的情況下使用部分能力。

持久化數據目錄爲 .arena/(README 佈局表中的 src/store.ts 說明)。

安裝與啓用

安裝前請先閱讀 npm 包源碼與 MIT 許可證;插件在當前 dsh 進程權限下運行,會讀寫本地 .arena/ 等路徑,並可能通過宿主 Web 連接暴露面板 API。

官方 README 給出的安裝方式爲從 npm 安裝(web profile):

dsh plugin --profile web add dsh-model-arena

執行後按 DSH 慣例重啓或 reload 插件,使 web 客戶端注入與 Settings 頁生效。

典型用法

CLI

README 示例:

dsh-model-arena list                              # list recent runs
dsh-model-arena compare <run> <modelA> <modelB>   # diff two models in a run
dsh-model-arena rate <run> --model M --rating 4   # rate a model output

list 用於查看近期 run 標識;compare 對同一 run 內兩個模型輸出做 diff;rate 爲指定模型輸出打 1–5 分。

Settings 面板

在 DSH Settings 打開 Model arena 頁(界面文案支持 zh / en 字典)。面板從 GET /api/model-arena.panel 拉取數據,展示近期 run、並排輸出、diff 查看器、分數與排行榜、benchmark 迴歸報告等。

本地開發(維護者)

若需改插件本身,README 建議:

npm ci
npm run typecheck
npm run build
npm test

適用場景與注意

適合誰: 已在 DSH web 環境配置多個模型、需要可重複的多模型對比、人工或半自動打分、以及 prompt/模型變更後的迴歸對比的開發者。

注意:

  • 必須使用 --profile web 安裝路徑;與純 CLI/headless 場景的契合度取決於宿主是否提供 Web 與面板路由。
  • 獨立 GitHub 倉庫已不可用;後續 issue 指向 monorepo:https://github.com/hj01857655/dsh-plugins/issues(npm bugs.url)。
  • 目錄頁版本(v0.5.1)與 npm latest(0.6.1)可能不一致;需要新功能(如更完整的 Leaderboard / Panel 說明)時可對照 npm 版本 changelog 或包內 README。
  • 安裝前自行審計插件代碼與權限邊界,勿在未信任的環境啓用。

結尾

dsh-model-arena 把「同 prompt、多模型、可對比、可打分、可迴歸」收攏進 DSH 插件與 Settings 面板,減少手工切換模型帶來的不一致。查閱與安裝可參考:

  • SkillHub 目錄頁:https://www.skillhub.cn/plugins/hj01857655/dsh-model-arena
  • npm:https://www.npmjs.com/package/dsh-model-arena
  • 歷史 GitHub 標識(目錄仍指向,倉庫當前 404):https://github.com/hj01857655/dsh-model-arena
  • 歸檔說明中的 monorepo:https://github.com/hj01857655/dsh-plugins
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜