前言¶
在本地部署 LLM(如 Ollama)並通過 DeepSeek Harness (DSH) 進行編排時,需要便捷的手段來監控服務狀態、測試模型性能以及管理模型資源。dsh-plugin-ollama-monitor 插件通過將監控與評測功能集成到 DSH 生態中,避免了在終端與 Web 界面之間手動切換,爲智能體開發提供了統一的工具鏈。
插件介紹¶
- 名稱:dsh-plugin-ollama-monitor
- 核心價值:Ollama 監控與測評平臺
- 維護者:LouisCanBe
- 許可證:MIT
- 分類:工作流
核心功能¶
該插件採用 Node 半側與 Web 半側結合的架構:
- Node 半側(Agent 工具):向 DSH Agent 提供 DSH 工具,包括:
- 服務狀態檢查
- 模型測速
- 模型拉取與管理
- 編程評測
- Web 半側(交互面板):在 DSH 的設置頁面提供可視化的交互面板,用於直接操作和查看狀態。
安裝與啓用¶
前提條件:本機已安裝 dsh CLI。
執行以下命令安裝插件:
dsh plugin --profile web add ollama-monitor
安裝後必須重啓該 profile。DSH 的 Bundle 增減需要重啓,之後的 patch 改動支持熱重載。
配置¶
插件的行 id 爲 ollama-monitor,默認配置位於包內的 cordis.patch.yml。
默認配置項¶
host:http://127.0.0.1:11434(Ollama 服務地址)defaultModel:''(面板默認選中模型)defaultPrompt:用一句話解釋什麼是操作系統。(默認測速提示詞)numPredict:128(默認最大生成 token 數)timeoutMs:300000(請求超時,單位毫秒;默認已放寬以應對大模型冷加載)
覆蓋配置¶
覆蓋配置需寫入 ~/.dsh/cordis.patch.yml 或 profile 層。注意:patch 機制會替換整份 config,因此必須重述全部鍵。
- id: ollama-monitor
config:
host: 'http://127.0.0.1:11434'
defaultModel: ''
defaultPrompt: '用一句話解釋什麼是操作系統。'
numPredict: 128
timeoutMs: 300000
驗證與卸載¶
驗證配置是否生效:
dsh --profile web --dump-config
若需卸載:
dsh plugin --profile web remove ollama-monitor
注意事項¶
- Bundle 增減:安裝或卸載插件後,必須重啓 profile 才能生效。
- 構建依賴:若使用 Git 倉庫直裝,pnpm >=10 默認拒絕運行 git 依賴的
prepare構建腳本。該倉庫已提交構建好的lib/,可直接使用。如需從源碼重建,需在 profile 的pnpm-workspace.yaml中添加allowBuilds: ollama-monitor: true。 - 配置完整性:修改配置時,patch 文件必須重述配置對象內的所有鍵,否則可能導致配置丟失或衝突。
- 超時設置:大模型冷啓動速度較慢,默認的
timeoutMs已調大,如遇超時可根據實際情況進一步調整。
參考鏈接¶
- 插件目錄:https://www.skillhub.cn/plugins/LouisCanBe/dsh-plugin-ollama-monitor
- GitHub 倉庫:https://github.com/LouisCanBe/dsh-plugin-ollama-monitor