dsh-jev-router

DSH(DeepSeek Harness)生態中,大模型推理成本與質量的平衡常依賴人工判斷。dsh-jev-router 引入 TypeSafe AI 的 Jev 決策模型,將“用戶需要多強的推理”從主觀題轉爲客觀題。

插件由 CSlawyer1985 維護,開源協議爲 MIT。它默認只切換思考強度(reasoning_effort),不改動模型本身或 prompt 前綴,從而確保 prompt 緩存安全。

核心能力

  1. 語義判定與推理強度路由:Jev 決定本次請求使用 off、low、high 還是 max 強度的推理。
  2. 緩存安全:判定結果只走 agent/request 改寫調用配置,不改寫 messages,不註冊 system prompt,避免破壞緩存。
  3. 成本閘門與置信度門禁:基於置信度閾值做決策,低於閾值時棄權,沿用默認檔位。
  4. 全鏈路可回滾:支持通過命令或設置回滾到切換前的狀態。
  5. 自動模型路由(可選):在滿足一定閘門條件時,自動切換 provider 或 model(默認關閉)。
  6. 手動覆蓋:允許用戶通過命令或界面釘死固定的檔位。

工作原理

Jev 是 TypeSafe AI 的 System One 決策模型。它不做文本生成,只輸出結構化判斷。插件通過以下原語對用戶請求進行判定:

  • choice:從固定選項中選一個(如推理強度檔位)。
  • score:按有序等級打分(如出錯代價)。
  • noul:判斷是非(如用戶是否想要快答)。

Jev 的輸出包含概率與置信度。插件會根據配置的置信度閾值進行過濾。如果判定置信度不足,插件會棄權,沿用 Harness 默認的檔位。Jev 不聊天、不寫代碼,僅處理結構化判斷請求。

常用指令

所有判定與配置均可通過命令完成:

/jev                 查看狀態(等價於 /jev status)
/jev status          查看狀態(檔位、來源、置信度、命中率、節省)
/jev effort low      手動釘死檔位(手動值優先級最高)
/jev model auto on   開啓自動模型路由
/jev why             解釋本輪判定爲什麼是這個檔位
/jev rollback        把模型回滾到切換前
/jev pricing refresh 從 DeepSeek 官網刷新價目
/jev about           插件與作者信息

界面交互方面,輸入框常駐顯示當前生效的思考強度徽章,點擊可循環切換(auto → off → low → high → max)。

安裝與啓用

安裝方式請參考 GitHub 倉庫說明,資料中未明確提供具體命令。啓用後,需在設置頁配置 TypeSafe API Key。注意插件僅支持文本輸入,忽略圖片與文件附件。

限制與注意事項

  • 僅支持文本:插件僅處理文本內容,不處理圖片、音頻或視頻附件。
  • 上下文限制:上下文限制爲 64K。
  • 指令語言:指令與選項描述統一使用英文。
  • 置信度定義:Jev 的置信度不是正確率,低於閾值一律棄權。
  • 不生成內容:Jev 不參與文本生成,不聊天,不寫代碼。
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜