dsh-polyglot:爲 DSH 提供 OpenAI 兼容端點切換與自動回退
dsh-polyglot 是 Jesse-njx 開發的一個 MIT 許可的 DSH 插件,旨在解決 DSH 中調用外部模型時面臨的多端點管理、免費額度不穩定及限流問題。該插件將多個 OpenAI-compatible 提供者收斂爲一個虛擬提供者 `polyglot`,通過通用適配器處理流式、工具調用及用量提取,並利用聲明式配置適配不同服務偏差。其核心是一個自動回退路由器,當遇到 429 限流、配額耗盡、5xx 錯誤或密鑰缺失時,自動切換至鏈中的下一個可用提供者,並採用指數退避和重試策略進行冷卻。插件通過 JSON 預設文件維護提供者信息,並在會話日誌中記錄每次請求的服務來源、狀態及 Toke
閱讀全文