前言¶
在 DeepSeek Harness (DSH) 的 dsh web 側邊欄中，本地 LLM 端點的健康狀態往往只能通過原始日誌查看。dsh-slot-health 插件爲側邊欄增加了一個實時的健康監控面板。
該插件通過指紋識別技術區分不同的本地引擎（如 llama.cpp 或 Ollama），並在右側邊欄顯示具體的槽位狀態、服務器指標或模型加載情況。它是一個雙面插件（Host + Client），通過 1 秒的採樣週期獲取數據並渲染。
核心功能¶
- 本地端點健康監控：在 DSH Web UI 右側邊欄顯示本地 LLM 的實時健康狀態。
- llama.cpp 槽位監控：檢測槽位的忙碌狀態、首字延遲 (TTFT) 和卡死情況。
- Ollama 模型監控：區分“已加載”與“空”狀態，顯示已加載模型的詳細信息。
- 引擎指紋識別：通過響應特徵識別後端引擎類型。
- 卡片展示：顯示 SLOT（槽位）、SERVER（服務器）和 MODELS（模型）卡片。
- 雙面插件：包含宿主機端（數據採集）和客戶端端（UI 渲染）。
安裝與啓用¶
該插件需要 DeepSeek Harness 的 Web 配置文件 (dsh web)。
- 使用 DSH CLI 安裝插件：
dsh plugin --profile web add dsh-slot-health
- 安裝後重啓
dsh web或在瀏覽器中強制刷新頁面。
配置與用法¶
安裝完成後，需在配置文件中指定要監控的本地端點地址。
- 編輯
cordis.patch.yml文件。 - 設置
config.origin指向目標地址。
默認配置 (llama.cpp)：
config:
origin: http://127.0.0.1:8080
Ollama 配置：
config:
origin: http://127.0.0.1:11434
安裝完成後，Web UI 右側邊欄會出現名爲 “Slot Health” 的標籤頁，底部 Dock 欄也會顯示對應的狀態芯片。
架構與限制¶
- 運行時依賴：僅允許在運行時引入凍結的
PLATFORM_MODULES（如 React、Cordis、UI 原語）。 - 純只讀訪問：插件對本地端點僅執行只讀操作，不會執行加載、卸載或終止指令。
- 樣式方案：僅使用內聯樣式，未包含獨立的 CSS 文件。
- 引擎指紋邏輯：
- llama-cpp：檢查
/health和/slots接口。 - Ollama：檢查
/api/version接口。 - vllm：檢查
/metrics接口是否包含vllm:系列。 - 未知：若可達但無法識別，標記爲
unknown。
- llama-cpp：檢查
- 技術棧：宿主機端爲 ESM，客戶端端爲 CJS 閉包工廠；構建依賴 React ^19.2.7 和 Node >=20。
總結¶
dsh-slot-health 通過將本地 LLM 的監控數據結構化地展示在 DSH 右側邊欄，解決了查看原始日誌難以快速判斷端點狀態的問題。它支持 llama.cpp 和 Ollama，並通過指紋識別機制保持擴展的通用性。
