dsh-shift-router:DSH 的两级模型路由插件

`dsh-shift-router` 是 DSH 的一个两级模型路由插件,旨在智能分配日常与关键轮次的模型使用。它通过 LLM Judge 将请求分类为 `fast` 或 `smart` 层级,采用“即时升级、趋势降级”策略,并在 Prompt Cache 热时暂缓切换以优化成本。该插件支持运行时故障转移,遇到服务异常时实行指数退避冷却,仅在同层内切换健康模型;同时具备任务级编排能力,由强模型规划并委派给弱模型执行,且强制任务上限。此外,它提供按层级统计的 token 与成本遥测。安装需 Node `>=22.0.0`,配置后可通过 GUI 或命令调整路由模式(auto/manual/off)

阅读全文