DSH(DeepSeek Harness)生态中,大模型推理成本与质量的平衡常依赖人工判断。dsh-jev-router 引入 TypeSafe AI 的 Jev 决策模型,将“用户需要多强的推理”从主观题转为客观题。
插件由 CSlawyer1985 维护,开源协议为 MIT。它默认只切换思考强度(reasoning_effort),不改动模型本身或 prompt 前缀,从而确保 prompt 缓存安全。
核心能力¶
- 语义判定与推理强度路由:Jev 决定本次请求使用
off、low、high还是max强度的推理。 - 缓存安全:判定结果只走
agent/request改写调用配置,不改写messages,不注册 system prompt,避免破坏缓存。 - 成本闸门与置信度门禁:基于置信度阈值做决策,低于阈值时弃权,沿用默认档位。
- 全链路可回滚:支持通过命令或设置回滚到切换前的状态。
- 自动模型路由(可选):在满足一定闸门条件时,自动切换 provider 或 model(默认关闭)。
- 手动覆盖:允许用户通过命令或界面钉死固定的档位。
工作原理¶
Jev 是 TypeSafe AI 的 System One 决策模型。它不做文本生成,只输出结构化判断。插件通过以下原语对用户请求进行判定:
- choice:从固定选项中选一个(如推理强度档位)。
- score:按有序等级打分(如出错代价)。
- noul:判断是非(如用户是否想要快答)。
Jev 的输出包含概率与置信度。插件会根据配置的置信度阈值进行过滤。如果判定置信度不足,插件会弃权,沿用 Harness 默认的档位。Jev 不聊天、不写代码,仅处理结构化判断请求。
常用指令¶
所有判定与配置均可通过命令完成:
/jev 查看状态(等价于 /jev status)
/jev status 查看状态(档位、来源、置信度、命中率、节省)
/jev effort low 手动钉死档位(手动值优先级最高)
/jev model auto on 开启自动模型路由
/jev why 解释本轮判定为什么是这个档位
/jev rollback 把模型回滚到切换前
/jev pricing refresh 从 DeepSeek 官网刷新价目
/jev about 插件与作者信息
界面交互方面,输入框常驻显示当前生效的思考强度徽章,点击可循环切换(auto → off → low → high → max)。
安装与启用¶
安装方式请参考 GitHub 仓库说明,资料中未明确提供具体命令。启用后,需在设置页配置 TypeSafe API Key。注意插件仅支持文本输入,忽略图片与文件附件。
限制与注意事项¶
- 仅支持文本:插件仅处理文本内容,不处理图片、音频或视频附件。
- 上下文限制:上下文限制为 64K。
- 指令语言:指令与选项描述统一使用英文。
- 置信度定义:Jev 的置信度不是正确率,低于阈值一律弃权。
- 不生成内容:Jev 不参与文本生成,不聊天,不写代码。