DSH(DeepSeek Harness)生態中,大模型推理成本與質量的平衡常依賴人工判斷。dsh-jev-router 引入 TypeSafe AI 的 Jev 決策模型,將“用戶需要多強的推理”從主觀題轉爲客觀題。
插件由 CSlawyer1985 維護,開源協議爲 MIT。它默認只切換思考強度(reasoning_effort),不改動模型本身或 prompt 前綴,從而確保 prompt 緩存安全。
核心能力¶
- 語義判定與推理強度路由:Jev 決定本次請求使用
off、low、high還是max強度的推理。 - 緩存安全:判定結果只走
agent/request改寫調用配置,不改寫messages,不註冊 system prompt,避免破壞緩存。 - 成本閘門與置信度門禁:基於置信度閾值做決策,低於閾值時棄權,沿用默認檔位。
- 全鏈路可回滾:支持通過命令或設置回滾到切換前的狀態。
- 自動模型路由(可選):在滿足一定閘門條件時,自動切換 provider 或 model(默認關閉)。
- 手動覆蓋:允許用戶通過命令或界面釘死固定的檔位。
工作原理¶
Jev 是 TypeSafe AI 的 System One 決策模型。它不做文本生成,只輸出結構化判斷。插件通過以下原語對用戶請求進行判定:
- choice:從固定選項中選一個(如推理強度檔位)。
- score:按有序等級打分(如出錯代價)。
- noul:判斷是非(如用戶是否想要快答)。
Jev 的輸出包含概率與置信度。插件會根據配置的置信度閾值進行過濾。如果判定置信度不足,插件會棄權,沿用 Harness 默認的檔位。Jev 不聊天、不寫代碼,僅處理結構化判斷請求。
常用指令¶
所有判定與配置均可通過命令完成:
/jev 查看狀態(等價於 /jev status)
/jev status 查看狀態(檔位、來源、置信度、命中率、節省)
/jev effort low 手動釘死檔位(手動值優先級最高)
/jev model auto on 開啓自動模型路由
/jev why 解釋本輪判定爲什麼是這個檔位
/jev rollback 把模型回滾到切換前
/jev pricing refresh 從 DeepSeek 官網刷新價目
/jev about 插件與作者信息
界面交互方面,輸入框常駐顯示當前生效的思考強度徽章,點擊可循環切換(auto → off → low → high → max)。
安裝與啓用¶
安裝方式請參考 GitHub 倉庫說明,資料中未明確提供具體命令。啓用後,需在設置頁配置 TypeSafe API Key。注意插件僅支持文本輸入,忽略圖片與文件附件。
限制與注意事項¶
- 僅支持文本:插件僅處理文本內容,不處理圖片、音頻或視頻附件。
- 上下文限制:上下文限制爲 64K。
- 指令語言:指令與選項描述統一使用英文。
- 置信度定義:Jev 的置信度不是正確率,低於閾值一律棄權。
- 不生成內容:Jev 不參與文本生成,不聊天,不寫代碼。