dsh-plugin-ollama-monitor:Ollama 監控與測評平臺

前言

在本地部署 LLM(如 Ollama)並通過 DeepSeek Harness (DSH) 進行編排時,需要便捷的手段來監控服務狀態、測試模型性能以及管理模型資源。dsh-plugin-ollama-monitor 插件通過將監控與評測功能集成到 DSH 生態中,避免了在終端與 Web 界面之間手動切換,爲智能體開發提供了統一的工具鏈。

插件介紹

  • 名稱:dsh-plugin-ollama-monitor
  • 核心價值:Ollama 監控與測評平臺
  • 維護者:LouisCanBe
  • 許可證:MIT
  • 分類:工作流

核心功能

該插件採用 Node 半側與 Web 半側結合的架構:

  1. Node 半側(Agent 工具):向 DSH Agent 提供 DSH 工具,包括:
    • 服務狀態檢查
    • 模型測速
    • 模型拉取與管理
    • 編程評測
  2. Web 半側(交互面板):在 DSH 的設置頁面提供可視化的交互面板,用於直接操作和查看狀態。

安裝與啓用

前提條件:本機已安裝 dsh CLI。

執行以下命令安裝插件:

dsh plugin --profile web add ollama-monitor

安裝後必須重啓該 profile。DSH 的 Bundle 增減需要重啓,之後的 patch 改動支持熱重載。

配置

插件的行 id 爲 ollama-monitor,默認配置位於包內的 cordis.patch.yml。

默認配置項

  • host: http://127.0.0.1:11434 (Ollama 服務地址)
  • defaultModel: '' (面板默認選中模型)
  • defaultPrompt: 用一句話解釋什麼是操作系統。 (默認測速提示詞)
  • numPredict: 128 (默認最大生成 token 數)
  • timeoutMs: 300000 (請求超時,單位毫秒;默認已放寬以應對大模型冷加載)

覆蓋配置

覆蓋配置需寫入 ~/.dsh/cordis.patch.yml 或 profile 層。注意:patch 機制會替換整份 config,因此必須重述全部鍵。

- id: ollama-monitor
  config:
    host: 'http://127.0.0.1:11434'
    defaultModel: ''
    defaultPrompt: '用一句話解釋什麼是操作系統。'
    numPredict: 128
    timeoutMs: 300000

驗證與卸載

驗證配置是否生效:

dsh --profile web --dump-config

若需卸載:

dsh plugin --profile web remove ollama-monitor

注意事項

  1. Bundle 增減:安裝或卸載插件後,必須重啓 profile 才能生效。
  2. 構建依賴:若使用 Git 倉庫直裝,pnpm >=10 默認拒絕運行 git 依賴的 prepare 構建腳本。該倉庫已提交構建好的 lib/,可直接使用。如需從源碼重建,需在 profile 的 pnpm-workspace.yaml 中添加 allowBuilds: ollama-monitor: true。
  3. 配置完整性:修改配置時,patch 文件必須重述配置對象內的所有鍵,否則可能導致配置丟失或衝突。
  4. 超時設置:大模型冷啓動速度較慢,默認的 timeoutMs 已調大,如遇超時可根據實際情況進一步調整。

參考鏈接

  • 插件目錄:https://www.skillhub.cn/plugins/LouisCanBe/dsh-plugin-ollama-monitor
  • GitHub 倉庫:https://github.com/LouisCanBe/dsh-plugin-ollama-monitor
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜