dsh-polyglot:为 DSH 提供 OpenAI 兼容端点切换与自动回退

dsh-polyglot 是 Jesse-njx 开发的一个 MIT 许可的 DSH 插件,旨在解决 DSH 中调用外部模型时面临的多端点管理、免费额度不稳定及限流问题。该插件将多个 OpenAI-compatible 提供者收敛为一个虚拟提供者 `polyglot`,通过通用适配器处理流式、工具调用及用量提取,并利用声明式配置适配不同服务偏差。其核心是一个自动回退路由器,当遇到 429 限流、配额耗尽、5xx 错误或密钥缺失时,自动切换至链中的下一个可用提供者,并采用指数退避和重试策略进行冷却。插件通过 JSON 预设文件维护提供者信息,并在会话日志中记录每次请求的服务来源、状态及 Toke

阅读全文