dsh-cap-profile:DSH 模型能力画像插件

前言

随着会话数据的积累,判断模型在哪些任务上表现稳定、在哪些环节容易“翻车”,往往需要人工翻阅大量日志。dsh-cap-profile 将本地的会话历史转化为可视化的能力画像与错误率仪表盘,直接回答“哪个模型在哪些事上稳、哪些事上老翻车”的问题。

是什么

这是 DeepSeek Harness (DSH) 的一个插件,由 Ansonfishing 维护。它将 ~/.dsh/sessions 的会话历史转化为工具使用和错误率仪表盘,支持按模型、时间范围筛选,并提供多模型对比视图。

安装与启用

前提条件:DSH (需带 web) + pnpm; Node ≥ 24 (用于 zstd 解码)。

1、切换到 DSH web profile 目录:

cd ~/.dsh/profiles/web

2、安装插件:

pnpm add github:Ansonfishing/dsh-cap-profile

3、配置与重启:
在 package.json 的 dsh.profile.bundles 数组里加上 "dsh-cap-profile",重启 dsh。

启用后,会话视图会出现「能力画像」tab。首次打开时触发后台首扫(大历史约 20 秒级),期间先显示 mock 数据。

核心功能

模型对比表
展示每个模型(provider / model)的会话数、工具调用数、错误数、错误率。

工具 Top5 / 错误签名 Top5
列出每模型最常用的工具和最高频的错误签名。工具错误率按颜色标记:
* 0:灰色
* <5%:琥珀色
* ≥5%:红色

错误签名通常为归一化后的高频模式,例如 bash: [exit code: 137] OOM,用于快速定位模型“易翻车”的环节。

多模型对比 (≤4)
勾选多个模型进入对比视图。视图以卡片形式展示每模型数据:
* 收敛指标对照(best/worst/top 标色)
* 工具 Top-10 矩阵
* 高频错误 Top-5
* 每日调用/错误趋势 mini 竖条(当日错误红色标注)

当有效勾选数量 < 2 时,自动回退到单模型详情视图。

时间范围筛选
支持全部 / 近 7 / 近 30 / 近 90 天 / 今天 / 昨天。锚点为数据中最大日期,对系统时钟漂移免疫。

安全与性能
* 只读:只分析展示,从不修改会话数据。路由校验客户端头 + Origin/Referer,跨源请求返回 403。
* 增量缓存:基于 per-file mtime 基线,后台 60s 增量更新 / 24h 全量刷新。首扫未完成时路由不阻塞,自动回退上次缓存或 mock。
* 零运行时依赖:纯 Node.js 实现。

典型用法

1、筛选时间范围:在时间筛选器中选择“近 30 天”,观察模型在最近一个月的表现波动。
2、多模型对比:勾选 2-4 个模型(如 GPT-4o、DeepSeek-V3),进入对比视图,查看各模型在工具调用和错误率上的收敛指标差异。
3、定位故障点:在模型详情页查看“错误签名 Top5”,例如发现某模型频繁出现 bash: [exit code: 137] OOM,即可针对性地调整该模型的资源限制或提示词。

注意事项

插件以当前 dsh 进程权限运行,分析过程仅读取 ~/.dsh/sessions。如需在无 DSH 环境下调试面板,可 clone 仓库后直接在浏览器打开 test/harness/index.html,通过 ?scenario=mock|live|empty|error 切换数据场景。

参考资料

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜