前言¶
在 DeepSeek Harness 的開發中,Agent 經常會對每一個輪次發送相同的請求。無論是簡單的變量重命名,還是複雜的競態條件調試,都會被送到同一個模型和同等的推理努力度。這種統一處理的方式會導致不必要的成本浪費。
dsh-plugin-jev-router 通過引入一個 Jev 選擇問題,爲每一輪對話決策具體的模型和推理努力度,從而解決這一問題。
這是什麼¶
這是一個由 YYTbit 維護的 DeepSeek Harness 插件。它負責在每一輪對話中,根據 Jev 的決策結果,動態選擇最合適的模型和推理努力度。
核心功能¶
該插件提供以下能力:
- 按輪次路由:根據每輪對話的具體內容,動態選擇模型和推理努力度。
- Jev 決策:每一輪通過一個 Jev 選擇問題來決定路由目標。
- 升級模式:針對困難輪次(如堆棧跟蹤、錯誤、測試失敗)的升級模式。
- 快速路徑:針對簡單操作(只讀動詞)的快速路徑。
- 粘性保持:連續輪次保持相同的路由決策。
- 收據記錄:生成收據以便回放和分析,無需重新調用模型。
安裝與啓用¶
安裝該插件需要執行以下命令:
dsh plugin --profile your-profile add dsh-plugin-jev-router
安裝後,需要配置 Jev 的 API Key 和 URL:
export JEV_API_KEY=...
export JEV_API_URL=https://api.typesafe.ai/v1/systemone
典型用法¶
在配置文件中,通過 YAML 定義候選列表。例如:
config:
candidates:
- { model: deepseek-v4-fast, effort: low, costPerMTokIn: 0.07, costPerMTokOut: 0.14 }
- { model: deepseek-reasoner, effort: high, costPerMTokIn: 0.55, costPerMTokOut: 2.19 }
defaultCandidate: deepseek-reasoner@high
minConfidence: 0.5
stickyTurns: 1
在測試或調試 Jev 路由路徑時,可以將 stickyTurns 設置爲 0。
適用場景與注意¶
- 該插件依賴 Jev API Key 和端點才能正常工作。
- 收據僅存儲摘要哈希和字節大小,不存儲完整文本,適合在不暴露對話內容的情況下進行日誌共享和分析。
- 插件使用 TypeScript 編寫,許可證爲 MIT。
- 由於插件以當前 dsh 進程權限運行,安裝前應檢查源碼與許可證。
結語¶
該插件通過 Jev 的單次選擇問題實現按輪次的模型路由,旨在優化成本並提高推理效率。更多配置細節和源碼,請參考插件目錄頁或 GitHub 倉庫。