dsh-jev-router

DSH(DeepSeek Harness)生态中,大模型推理成本与质量的平衡常依赖人工判断。dsh-jev-router 引入 TypeSafe AI 的 Jev 决策模型,将“用户需要多强的推理”从主观题转为客观题。

插件由 CSlawyer1985 维护,开源协议为 MIT。它默认只切换思考强度(reasoning_effort),不改动模型本身或 prompt 前缀,从而确保 prompt 缓存安全。

核心能力

  1. 语义判定与推理强度路由:Jev 决定本次请求使用 off、low、high 还是 max 强度的推理。
  2. 缓存安全:判定结果只走 agent/request 改写调用配置,不改写 messages,不注册 system prompt,避免破坏缓存。
  3. 成本闸门与置信度门禁:基于置信度阈值做决策,低于阈值时弃权,沿用默认档位。
  4. 全链路可回滚:支持通过命令或设置回滚到切换前的状态。
  5. 自动模型路由(可选):在满足一定闸门条件时,自动切换 provider 或 model(默认关闭)。
  6. 手动覆盖:允许用户通过命令或界面钉死固定的档位。

工作原理

Jev 是 TypeSafe AI 的 System One 决策模型。它不做文本生成,只输出结构化判断。插件通过以下原语对用户请求进行判定:

  • choice:从固定选项中选一个(如推理强度档位)。
  • score:按有序等级打分(如出错代价)。
  • noul:判断是非(如用户是否想要快答)。

Jev 的输出包含概率与置信度。插件会根据配置的置信度阈值进行过滤。如果判定置信度不足,插件会弃权,沿用 Harness 默认的档位。Jev 不聊天、不写代码,仅处理结构化判断请求。

常用指令

所有判定与配置均可通过命令完成:

/jev                 查看状态(等价于 /jev status)
/jev status          查看状态(档位、来源、置信度、命中率、节省)
/jev effort low      手动钉死档位(手动值优先级最高)
/jev model auto on   开启自动模型路由
/jev why             解释本轮判定为什么是这个档位
/jev rollback        把模型回滚到切换前
/jev pricing refresh 从 DeepSeek 官网刷新价目
/jev about           插件与作者信息

界面交互方面,输入框常驻显示当前生效的思考强度徽章,点击可循环切换(auto → off → low → high → max)。

安装与启用

安装方式请参考 GitHub 仓库说明,资料中未明确提供具体命令。启用后,需在设置页配置 TypeSafe API Key。注意插件仅支持文本输入,忽略图片与文件附件。

限制与注意事项

  • 仅支持文本:插件仅处理文本内容,不处理图片、音频或视频附件。
  • 上下文限制:上下文限制为 64K。
  • 指令语言:指令与选项描述统一使用英文。
  • 置信度定义:Jev 的置信度不是正确率,低于阈值一律弃权。
  • 不生成内容:Jev 不参与文本生成,不聊天,不写代码。
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜