前言¶
DeepSeek Harness (DSH) 采用插件化架构。随着模型增多,管理各模型的实际可用性(Alive/Dead)变得困难。DSH Model Probe 是一个第三方插件,旨在将模型健康监控集成到 DSH 的 Web UI 中,提供持久化状态、运行时监控和全局排序。
插件定位¶
DSH Model Probe 是 DeepSeek Harness Web UI 的持久化模型健康监控插件。
- 维护者:AGSQ11
- 许可证:MIT
- 核心价值:通过运行时探测、自动恢复和历史记录,确保 DSH 中模型选择的准确性。
核心功能¶
插件在 DSH Web UI 的 Settings → Model Probe 下提供以下能力:
-
原生 UI 集成
在设置中提供仪表盘,展示模型列表及其健康状态。 -
全局健康徽章
在 DSH 的模型选择列表中,活模型显示绿色点,死模型显示红色点。未探测的模型无点。 -
健康优先排序
模型列表按以下顺序排序:
- Alive(绿点)
- Unknown(无点)
- Dead(红点)
每个层级内部按字母顺序排序。 -
快速过滤
支持不区分大小写的前缀搜索。在模型显示名称和模型 ID 上均有效。 -
持久化与监控
- 健康状态在主机端持久化,在浏览器和 DSH 重启后保留。
- 运行时监控正常的 DSHllm/stream调用。
- 历史记录限制在最近 500 个结果。 -
自动恢复
死模型每 30 分钟自动重新探测一次。成功即恢复为 Alive。 -
手动探测
提供“Probe all”功能,支持配置超时和并发数。
安装与启用¶
克隆或下载仓库后,将本地插件目录添加到 DSH 配置文件中:
dsh plugin --profile default add ./dsh-model-probe
添加后重启 DSH,访问 Settings → Model Probe 即可使用。
使用说明¶
-
访问仪表盘
打开 DSH Web UI,导航至Settings → Model Probe。 -
手动探测
使用“Probe all”按钮,并配置探测的超时时间和并发数。 -
状态路径覆盖
若需修改状态文件存储位置,可设置环境变量:
DSH_MODEL_PROBE_STATE_FILE=/custom/path/state.json
健康策略与注意事项¶
插件采用特定的健康判定逻辑:
- 探测策略:手动探测最多进行 3 次尝试。若全部失败,模型标记为 Dead。
- 运行时失败:若正常 DSH 请求因终端错误失败,插件将触发两次健康重试。只有两次重试均失败且无成功请求恢复时,模型才标记为 Dead。
- 最小探测请求:插件不会重放用户的原始请求,而是发送一个最小化的请求(
Reply with exactly OK.,maxTokens=8)以避免重复输出。 - 取消处理:显式的用户取消或中止操作不被视为模型死亡。
- 键控逻辑:健康状态按
Provider + Model组合键控,而非仅按模型名称。 - 安全注意:插件不存储任何提供商凭证,探测请求使用 DSH 已配置的适配器。
- 目录局限性:DSH 提供商目录仅供参考。插件检查已发布模型,无法推断未被目录暴露的隐藏模型 ID。
状态持久化¶
插件将当前健康状态和历史记录存储在 state.json 文件中。
默认路径:
- Windows: %LOCALAPPDATA%\dsh-model-probe\state.json
- macOS: ~/Library/Application Support/dsh-model-probe/state.json
- Linux/Unix: $XDG_STATE_HOME/dsh-model-probe/state.json 或 ~/.local/state/dsh-model-probe/state.json
更新¶
更新时,替换插件目录为新版本源码,保持 DSH 配置文件中的条目不变,然后重启 DSH。持久化状态与插件目录独立存储。
结语¶
DSH Model Probe 通过将健康监控嵌入 Web UI,解决了模型可用性管理的盲点。它利用 DSH 自身的运行时进行探测,并严格遵循健康优先的排序逻辑,适合需要稳定 LLM 通道的开发者使用。