在 DeepSeek Harness (DSH) 的插件化生態中,模型路由是平衡成本與性能的關鍵環節。傳統基於關鍵詞或單一會話頭信息的路由器,難以在同一個主要路由下精確區分不同的子任務類型(例如編程任務與硬編碼任務)。dsh-quota-router 旨在解決這一問題,它通過保留“任務配置文件”與“候選鏈”的完整上下文,確保路由決策的確定性。
它是什麼¶
這是一個純策略驅動的多源模型路由插件,由 Liyuk 維護。它不依賴適配器或管理憑據,僅利用 DSH 原生註冊的模型源,通過全局優先級列表與任務映射來構建候選鏈。該插件主要用於在混合源(免費、訂閱、無限、低價、手動緊急)工作流中執行“成本源”管理。
核心功能¶
- 確定性任務配置文件:支持命名任務配置文件與有序候選鏈,確保每個輪次的路由邏輯清晰。
- 健康感知與回退:具備健康檢查能力,能在基礎設施故障時進行有界且可解釋的回退。
- 可觀測性:提供路由決策的觀測接口,並準確測量路由使用量,而不誇大代幣節省。
安裝與啓用¶
安裝該插件需要使用 npm 命令:
npm install @liyuk/dsh-quota-router
安裝完成後,在 DSH Web 配置文件中啓用該包,即可使用。
典型用法¶
- 配置路由策略:在 DSH Web 界面中,進入 Settings → Quota Router。該頁面會打開專用的配置入口,允許編輯全局優先級列表、重試策略、任務配置文件的關鍵詞映射以及
modelBySource映射。 - 運行時檢查:通過只讀工具
quota_router_status檢查運行時的決策狀態,包括活躍的冷卻期、路由決策以及使用情況。 - 路由流程:插件會將用戶消息路由到指定的命名任務配置文件,然後在該配置文件的候選鏈上選擇第一個健康且自動符合資格的源。
適用場景與注意¶
- 權限範圍:僅使用 DSH 原生註冊的提供商和模型,插件本身不擁有適配器或憑據。
- 排序權威:
sources.priority是源排序的唯一權威;sourceTier僅作爲解釋性元數據,不作爲隱藏的重排規則。 - 手動與緊急候選:
manual和emergency候選項永遠不會被自動選中。 - 付費回退:付費候選項需要顯式的
allowPaidFallback: true選項才能被選中。 - 歷史記錄:上下文壓縮由 DSH 獨立配置和觸發,此插件不會重寫會話歷史。