dsh-model-radar:四题 150 分智商评测与本机会话性能分

前言

在 DeepSeek Harness(DSH)里换模型、换推理档位,往往要靠零散对话主观感受,很难在同一套任务上横向对比「能不能交付产物、答得对不对」,也很难把 TTFT、TPS、工具节奏等日常指标汇成一张可读的榜。社区插件 dsh-model-radar(模型雷达 / Model Radar)把两类能力收进一个整页控制台:参照公开四题制式的 150 分模型智商评测,以及基于本机 DSH 会话日志的 0–1000 真实性能评分。评测在隔离会话与子智能体里跑,自带排行榜、批次历史与设置,不依赖其它插件,也不会改动宿主的模型配置。

这是什么

dsh-model-radar 由维护者 Chip-G0202 发布,在 Skillhub 目录中归类为「模型推理」。当前仓库版本为 0.1.0,代码与文档采用 MIT 许可;运行要求 DSH >=0.2.2-rc.1(见仓库 package.json 的 engines 字段)。

一句话定位:手动勾选「模型 × 推理档位」,跑四道题(秦始皇 60、庞贝 45、鹈鹕 22.5、糖果 22.5),由裁判模型主会话汇总;另从本地会话日志统计性能分与分位数,并在 UI 中分视图展示。

核心功能

四题智商评测(满分 150)

四道题的题型与公开题面沿用 Codex Radar 的公开制式,判分逻辑与评测代码为本仓库独立实现,任务与评分版本为 mr-four-150-v2 / mr-rubric-150-v2。

题 权重 评分方式
秦始皇(qin) 60 裁判 rubric(100 分)+ 核心关系门槛,再折算
庞贝(pompeii) 45 程序判分:邻接边 F1 × 100 再折算
鹈鹕(pelican) 22.5 裁判 rubric 14 项,再折算
糖果(candy) 22.5 程序判定答对 100、答错 0,再折算

每次批次中,裁判模型担任会话主模型;各待测组合以子智能体在全新会话与独立工作目录中执行任务,结果回传后主模型写批次汇总。庞贝、糖果由程序自动判分,秦始皇、鹈鹕由裁判模型按 rubric 打分。

运行机制与调度

  1. 侧边栏进入「模型雷达」整页,在「开始评测」弹窗中按 provider 分组选择模型,展开推理档位 chips 多选。
  2. 组合数不设上限;并行由 maxParallelModels 控制(默认可配置 1–8,README 示例默认最多 3 条模型车道),同一模型的档位与四题在车道内串行。
  3. 裁判模型单独选择(provider → model → effort);底部显示 N 个组合 × 4 题 = M 次运行。

界面视图

插件提供四个主视图(排行榜、性能、历史、设置),CSS/SVG 自绘,支持插件内亮/暗主题切换并写入 localStorage。

  • 排行榜:速览(本轮最高、总分排行)、综合推荐(质量/速度/成本/稳定加权,权重可在设置页调整)、档位雷达热力矩阵、批次趋势与明细;可打开模型明细抽屉查看四题 tab、裁判理由与产物预览。
  • 性能:今日/本周/本月/全部范围;0–1000 分与 7 维指标(输出速度、首字延迟、思考速度、工具节奏、工具耗时、工具成功率、缓存命中);报告仅在切到该视图时加载(60s 内存缓存 + 会话日志折叠缓存)。
  • 历史:批次列表;中断可续跑、定向重跑组合×题目;interrupted / stopped / partial 有明确标注。
  • 设置:并行数、组合上限、自动重试、裁判与受控测速、超时与裁判尝试次数、推荐权重、批次保留与汇率等,写入 <dataDir>/settings.json。

评测隔离与防透题

每个候选运行为独立 root 会话,独立随机临时目录;工具白名单与路径围栏限制读写范围;批次运行中对部分路由剥掉分数与产物。运行结束后写入 run.detail.isolation(clean / blocked / suspect)。README 也说明:候选 bash 在宿主 danger-full-access 下,字符串围栏与审计属于检测与降风险,而非密码学级隔离。

性能报告口径

性能分来自本机 DSH 会话日志,不限于模型雷达批次;所选范围内每个模型 × 档位约需 20 条请求才显示稳定分,样本不足会标注。雷达评测会话会记入排除集合,避免自举污染。

安装与启用

已抓取资料中未给出固定的 CLI 安装命令行原文。获取插件请以目录页与仓库说明为准:

安装或加载前请确认本地 DSH 版本满足 >=0.2.2-rc.1,并阅读 MIT 许可与仓库源码。插件在本机 DSH 进程权限下运行,涉及子智能体、文件工具与 bash,启用前应自行评估信任边界。

典型用法

下面步骤对应 README 中的主流程,在宿主已正确加载插件的前提下操作。

  1. 打开 DSH 侧边栏「模型雷达」,进入整页控制台。
  2. 点击「开始评测」,按 provider 展开目标模型,勾选要测的推理档位;在弹窗底部选择裁判模型的 provider、model、effort。
  3. 确认底部显示的「组合数 × 4 题」后启动;运行中可查看各模型车道进度,必要时使用停止。
  4. 跑完后在「排行榜」查看总分、档位矩阵与综合推荐;点选某行或矩阵格进入模型明细,查看单题分数、裁判理由与产物(SVG/PNG/HTML 等)。
  5. 若要对比日常体验,切换到「性能」视图选择时间范围,查看 0–1000 分与 TTFT/TPS 分位数、会话速度榜。
  6. 中断或部分完成的批次,在「历史」或最新批次面板使用「继续运行」;需局部复测时使用定向重跑,勾选「组合 × 题目」。

设置页中的 maxParallelModels、autoRetries、单题/单批超时等改动保存后立即生效;若批次已在运行,部分项会提示下一批生效。

适用场景与注意

适合谁:需要在同一套四题任务上对比多模型、多推理档位交付质量;同时希望把本机真实会话的延迟与工具表现汇成可读报告,而不是只看单次聊天观感。

使用时需知:

  • 跑批次会消耗候选模型与裁判模型的 token;费用按插件内置价目表估算展示,不代扣费、不上传账单。
  • 缺产物(无 result.svg / index.html / model_answer.json 等)记为 no-artifact,组合总分置空,与答错区分。
  • 耗时、TPS 不计入智商分;超时、上游错误、裁判 JSON 失败等可按 autoRetries 用全新会话重试。
  • 旧评分版本批次与 mr-four-150-v2 不混用;旧批次不再显示续跑按钮,需新建批次。
  • 运行中禁用或重载插件会把批次标为「已中断」并记录原因。

结尾

dsh-model-radar 把 codexradar 式四题 150 分评测与 Agent Speed 启发的 0–1000 性能分收进 DSH 插件内,强调隔离跑题、自动与裁判混合判分,以及可续跑、可定向重跑的批次管理。若要查看界面截图与完整评分 rubric、围栏规则,请阅读仓库 README。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜