dsh-model-garden:給 DSH Web UI 增加可搜索、可排序、可看成本的模型選擇器

前言

DeepSeek Harness(DSH)的社區生態強調「一切皆插件」;社區目錄是獨立站點,與 DeepSeek / 幻方沒有官方從屬關係。dsh-model-garden 是面向 DSH Web UI(dsh web)的靜態 profile 插件。

它提供一個表格化模型選擇器,用來處理模型數量較多時難以搜索、排序、篩選本地模型,以及看不到價格、上下文窗口、即時任務成本和會話成本明細的問題。

這是什麼

下面先交代它由哪兩部分組成:

  • 客戶端:client.js,註冊 conversation.input.model slot(priority -1,shadowing the native seat)並渲染模型選擇器。
  • 宿主端:index.js,在 harness webServer 服務上提供三個同域 JSON 路由。

倉庫地址:

https://github.com/mrdevlorx/dsh-model-garden

許可證:MIT

運行要求:package.json 聲明需要 Node >=22

運行依賴:宿主端需要 web 棧(webServer 服務);在最小/TUI profile 中保持 inert,不阻塞啓動。

核心功能

模型列表

  • 即時搜索模型名稱和描述。
  • 按名稱、上下文或價格排序;第三點擊恢復按供應方分組視圖。
  • 收藏模型並切換隻顯示收藏;收藏保存在 localStorage。
  • 根據真實 endpoint 的 baseURL 判斷本地 provider,並可篩選本地模型。
  • 供應方分組可摺疊;摺疊狀態按 provider 保存。
  • 選擇器掛載期間自動刷新模型目錄,默認間隔 5 分鐘且可配置。

價格與上下文窗口

  • 使用 models.dev 價格,按每 1M tokens 顯示輸入/輸出價格;價格緩存 24 小時。
  • 本地模型保持未定價。
  • 訂閱路由通過 PROVIDER_ALIASES 解析爲按量參考價格。
  • 從宿主 llm 服務讀取上下文窗口,並在需要時回退到 models.dev。

成本與推理設置

  • 面板打開時始終顯示即時每任務用量和成本(in / out / cache)。
  • 懸停近似成本可打開會話成本明細,支持複製摘要或導出排序後的 CSV。
  • 爲支持推理級別的模型提供推理強度選擇器;選擇模型時始終從最強推理級別開始。
  • 詳情提示顯示描述、價格、上下文窗口、最大輸出和推理強度。
  • 使用 harness 設計令牌適配淺色和深色主題。

安裝與啓用

1、使用 DSH 插件 CLI 安裝:

dsh plugin --profile <profile> add dsh-model-garden

2、安裝後重啓 DSH server,並在瀏覽器硬刷新(Cmd/Ctrl+Shift+R)。

3、驗證宿主路由是否可用:

curl -s http://127.0.0.1:3080/model-garden/catalog | head -c 200

這一步檢查 /model-garden/catalog 返回的是 JSON 數據,而不是 HTML。

典型用法

宿主端點

宿主端提供以下同域 JSON 路由:

GET /model-garden/cost?session=<sessionId>
GET /model-garden/cost-history?session=<sessionId>&limit=<n>
GET /model-garden/catalog
  • /model-garden/cost:用於獲取會話相關的用量/成本數據。
  • /model-garden/cost-history:用於獲取會話成本明細,可通過 limit 限制返回步驟數量。
  • /model-garden/catalog:用於獲取模型目錄;選擇器掛載期間會自動刷新。

從手動安裝升級

如果之前用手動方式安裝過舊 model-garden 依賴,先做兩步:

1、移除舊 model-garden 依賴。

2、從 profile 的 cordis.patch.yml 刪除手動 - insert: 行。

之後再按上面的插件 CLI 安裝命令安裝,避免插件重複掛載。

手動安裝

如果不用插件 CLI,而用 npm 管理 profile:

1、添加依賴。

2、在 profile package.json 的 dsh.profile.bundles 中列出 dsh-model-garden。

3、重新安裝並重啓 DSH server。

適用場景與注意

適合在 DSH Web UI 中使用多個 provider、本地模型、訂閱路由,並且希望在選擇模型時看到價格、上下文窗口、即時成本和會話成本明細的人。

安裝前注意:

  • 插件以當前 dsh 進程權限運行,安裝前應檢查源碼與許可證。
  • 宿主端需要 web 棧;最小/TUI profile 中插件保持 inert。
  • package.json 聲明需要 Node >=22。
  • 本地模型保持未定價;訂閱路由的參考價格依賴 PROVIDER_ALIASES 解析。

結尾

dsh-model-garden 的價值在於把 DSH Web UI 的模型選擇從「能選」擴展到「能篩、能排、能看成本」。它不改變 DSH 的插件化運行方式,只是在 Web 端提供一組可搜索、可排序、可追溯成本的模型選擇界面。

倉庫地址:

https://github.com/mrdevlorx/dsh-model-garden
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜