dsh-shift-router:DSH 的兩級模型路由插件

`dsh-shift-router` 是 DSH 的一個兩級模型路由插件,旨在智能分配日常與關鍵輪次的模型使用。它通過 LLM Judge 將請求分類爲 `fast` 或 `smart` 層級,採用“即時升級、趨勢降級”策略,並在 Prompt Cache 熱時暫緩切換以優化成本。該插件支持運行時故障轉移,遇到服務異常時實行指數退避冷卻,僅在同層內切換健康模型;同時具備任務級編排能力,由強模型規劃並委派給弱模型執行,且強制任務上限。此外,它提供按層級統計的 token 與成本遙測。安裝需 Node `>=22.0.0`,配置後可通過 GUI 或命令調整路由模式(auto/manual/off)

閱讀全文