DSH Model Audit:本地插件,对比请求模型与上游响应声明的模型

前言

DeepSeek Harness (DSH) 采用插件化架构,允许用户扩展功能。在进行模型推理调试或验证时,开发者有时需要确认发出的请求模型是否与上游返回声明的模型一致。DSH Model Audit 是一个独立的本地插件,用于对比请求模型与上游响应模型。

这是什么

这是一个非官方的本地插件,由 jghwwnq 维护,基于 MIT 许可证。它运行在 DSH 的宿主环境中,能够读取并比对 outgoing request model(发出的请求模型)与 upstream response model(上游响应声明的模型)。

核心功能

该插件主要提供以下能力:

  1. 模型比对:对比 outgoing request model 与 upstream response model。
  2. 协议支持:支持 DeepSeek Messages、GPT Responses 和 Chat Completions。
  3. 平台兼容:在 Web 版本和 Desktop 版本中均可工作。
  4. 调用监控:监控 llm/stream 和全局 fetch 调用。
  5. 元数据保留:保留模型标识符、响应标识符、使用情况、时序和调用目的等元数据。

安装与启用

插件未发布到 npm,仅作为本地包使用。

Web 版本安装

在 Web 版本中,通过 CLI 添加插件目录:

dsh plugin --profile web add /absolute/path/to/dsh-model-audit --offline --ignore-scripts

桌面版安装

桌面应用独占其 profile,CLI 会拒绝 --profile desktop。请在桌面应用的插件页面(Installed plugins)中添加绝对目录路径。

启用步骤

  1. 安装后,重启 DSH 一次以注册依赖解析。
  2. 在 DSH 界面中启用 Model monitor。
  3. 打开其详情面板,选择 Open monitor。
  4. 后续的开关切换是实时的。

典型用法

安装并启用后,插件会在内存中记录调用数据。

  • Web 版本:Open monitor 会在新的浏览器标签页中打开仪表板。
  • 桌面版本:仪表板在应用窗口内渲染(因为桌面壳禁用了 popup),需通过头部按钮或 Escape 键关闭。
  • 数据保留:记录仅在内存中,禁用或重启 DSH 后会自动清除。

适用场景与注意

该插件适合需要验证模型映射关系的开发者。

注意事项:
* 插件版本 0.1.7-rc.2 针对 DSH 0.1.7-rc.2,版本不匹配可能导致加载失败。
* 仅监控特定调用:插件仅调用 llm/stream 和全局 fetch。WebSocket、私有传输和回放模式不被观测。
* 数据范围:仪表板仅显示模型/响应标识符、使用情况、时序和调用目的元数据,不包含提示词、补全内容或凭证。
* 宿主更改:桌面端安装插件后,如需更改宿主插件配置,仍需重启 DSH。

结尾

DSH Model Audit 提供了轻量级的本地机制来核对模型声明,适合在本地调试和验证模型推理链路时使用。更多细节与源码,请参考 GitHub 仓库。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜