dsh-llm-auto-route:DeepSeek Harness 的自動路由與故障轉移插件
`dsh-llm-auto-route` 是一個社區維護的 Cordis 插件,旨在簡化 DeepSeek Harness 中多模型推理 provider 的管理。該插件通過自動發現和匹配 provider、執行健康檢查以及實現輸出前的故障轉移,解決了手動切換 provider 的複雜性問題。它支持 YAML 配置覆蓋,提供顯式指定、環境變量、基礎 URL 和模型前綴等多種匹配優先級,並能根據健康檢查結果進行智能路由。安裝後需加載官方適配器,適用於需要高可用性和自動化管理的智能體開發場景。
閱讀全文