DSH Model Probe:DeepSeek Harness 的模型健康监控插件

前言

DeepSeek Harness (DSH) 采用插件化架构。随着模型增多,管理各模型的实际可用性(Alive/Dead)变得困难。DSH Model Probe 是一个第三方插件,旨在将模型健康监控集成到 DSH 的 Web UI 中,提供持久化状态、运行时监控和全局排序。

插件定位

DSH Model Probe 是 DeepSeek Harness Web UI 的持久化模型健康监控插件。
- 维护者:AGSQ11
- 许可证:MIT
- 核心价值:通过运行时探测、自动恢复和历史记录,确保 DSH 中模型选择的准确性。

核心功能

插件在 DSH Web UI 的 Settings → Model Probe 下提供以下能力:

  1. 原生 UI 集成
    在设置中提供仪表盘,展示模型列表及其健康状态。

  2. 全局健康徽章
    在 DSH 的模型选择列表中,活模型显示绿色点,死模型显示红色点。未探测的模型无点。

  3. 健康优先排序
    模型列表按以下顺序排序:
    - Alive(绿点)
    - Unknown(无点)
    - Dead(红点)
    每个层级内部按字母顺序排序。

  4. 快速过滤
    支持不区分大小写的前缀搜索。在模型显示名称和模型 ID 上均有效。

  5. 持久化与监控
    - 健康状态在主机端持久化,在浏览器和 DSH 重启后保留。
    - 运行时监控正常的 DSH llm/stream 调用。
    - 历史记录限制在最近 500 个结果。

  6. 自动恢复
    死模型每 30 分钟自动重新探测一次。成功即恢复为 Alive。

  7. 手动探测
    提供“Probe all”功能,支持配置超时和并发数。

安装与启用

克隆或下载仓库后,将本地插件目录添加到 DSH 配置文件中:

dsh plugin --profile default add ./dsh-model-probe

添加后重启 DSH,访问 Settings → Model Probe 即可使用。

使用说明

  1. 访问仪表盘
    打开 DSH Web UI,导航至 Settings → Model Probe。

  2. 手动探测
    使用“Probe all”按钮,并配置探测的超时时间和并发数。

  3. 状态路径覆盖
    若需修改状态文件存储位置,可设置环境变量:

DSH_MODEL_PROBE_STATE_FILE=/custom/path/state.json

健康策略与注意事项

插件采用特定的健康判定逻辑:

  • 探测策略:手动探测最多进行 3 次尝试。若全部失败,模型标记为 Dead。
  • 运行时失败:若正常 DSH 请求因终端错误失败,插件将触发两次健康重试。只有两次重试均失败且无成功请求恢复时,模型才标记为 Dead。
  • 最小探测请求:插件不会重放用户的原始请求,而是发送一个最小化的请求(Reply with exactly OK.,maxTokens=8)以避免重复输出。
  • 取消处理:显式的用户取消或中止操作不被视为模型死亡。
  • 键控逻辑:健康状态按 Provider + Model 组合键控,而非仅按模型名称。
  • 安全注意:插件不存储任何提供商凭证,探测请求使用 DSH 已配置的适配器。
  • 目录局限性:DSH 提供商目录仅供参考。插件检查已发布模型,无法推断未被目录暴露的隐藏模型 ID。

状态持久化

插件将当前健康状态和历史记录存储在 state.json 文件中。

默认路径:
- Windows: %LOCALAPPDATA%\dsh-model-probe\state.json
- macOS: ~/Library/Application Support/dsh-model-probe/state.json
- Linux/Unix: $XDG_STATE_HOME/dsh-model-probe/state.json 或 ~/.local/state/dsh-model-probe/state.json

更新

更新时,替换插件目录为新版本源码,保持 DSH 配置文件中的条目不变,然后重启 DSH。持久化状态与插件目录独立存储。

结语

DSH Model Probe 通过将健康监控嵌入 Web UI,解决了模型可用性管理的盲点。它利用 DSH 自身的运行时进行探测,并严格遵循健康优先的排序逻辑,适合需要稳定 LLM 通道的开发者使用。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜