dsh-provider-deepinfra:在 DSH 里走 DeepInfra 的 OpenAI 兼容推理

前言

在 DeepSeek Harness(DSH)里接第三方模型,常见做法是手写 provider 配置、自己维护模型列表,或在路由里硬编码 context window 与能力标签。模型侧一上新型号,就要改配置或等框架发版,工具调用、推理档位、多模态输入也往往要各写一套适配。

下面介绍社区插件 deepinfra/dsh-provider-deepinfra(维护者 deepinfra,分类:模型推理)。它在 DSH 中注册 deepinfra 路由,通过 DeepInfra 的 OpenAI 兼容 chat-completions API 做流式对话,并从线上目录拉取可用聊天模型,把上下文长度、vision、reasoning 等能力交给 DSH 的压缩与模型选择逻辑使用。

这是什么

dsh-provider-deepinfra 是面向 DeepSeek Harness 的 DeepInfra provider 插件。源码与说明见 GitHub:deepinfra/dsh-provider-deepinfra,社区目录页:skillhub.cn 插件条目。

插件在现有路由旁增加 deepinfra,不修改内置的 llm-pi-ai 等路由,避免与你自己已有的 provider 配置冲突。DSH 生态强调「一切皆插件」;skillhub.cn 为社区目录站点,与 DeepSeek / 幻方无官方从属关系。

核心功能

实时模型目录

模型列表来自 GET https://api.deepinfra.com/v1/openai/models,DeepInfra 上新聊天模型后无需升级插件即可出现在选择器里(仅列出 chat 类模型)。目录默认缓存 10 分钟;若拉取失败,会沿用上一次成功结果,或在没有历史缓存时使用内置小列表,避免路由侧列表为空。未出现在目录中的模型 id(例如私有部署)仍可请求,上下文窗口会标为未知而非猜测。

模型元数据与 DSH 集成

每个模型上报自身的 context window、是否支持图像输入(vision)、以及 reasoning 相关档位。压缩时机与模型选择器依赖这些字段,一般不必在设置里手填窗口大小。

工具调用、推理与图像

支持并行 tool calls;支持 reasoning_content,并在后续轮次回传,便于思考型模型在工具循环中延续推理。vision 模型可接收图像输入。图像以 base64 data URL 内联发送,单张约缩放到 4 MP、1 MiB;单次请求图像总量超过 20 MiB 时,会请 DSH 卸载较早的附件。

Prompt 缓存

DSH 会话 id 作为 prompt_cache_key 发出,重复多轮对话可复用已缓存的前缀。

推理档位

带 reasoning_effort 标签的模型提供 Off、Low、Medium、High;仅带 reasoning 标签的提供 Off/On(链路上为 none/high)。选择通过 reasoning_effort 传出;不设置则保持模型默认。部分模型(如 DeepSeek-V4.1-Flash)需显式开启才会进入思考模式。

错误与重试

HTTP 错误映射为 DSH 失败码:401 → INVALID_CREDENTIAL,402 或配额相关文案 → QUOTA,429 → RATE_LIMIT(含 Retry-After),上下文溢出类 400 → CONTEXT_WINDOW_EXCEEDED,5xx → SERVER。瞬态错误可由 dsh-llm-retry 重试。

安装与启用

环境要求:Node ≥ 22.15,以及 DeepInfra API token。

1、安装插件(web profile):

dsh plugin --profile web add github:deepinfra/dsh-provider-deepinfra

2、配置密钥(也可在 Web 端 Models 页面保存):

export DEEPINFRA_API_KEY=...

3、启动 Web 界面:

dsh web

未配置 API key 时,选择器不会列出 DeepInfra 模型,因为请求都会失败。

插件以当前 dsh 进程权限运行。安装前建议阅读仓库源码与 MIT 许可证,确认密钥与出站请求行为符合你的环境策略。

典型用法

在模型选择器里点选 DeepInfra 模型,或在 profile 里写默认模型。示例路径为 $DSH_HOME/profiles/<profile>/cordis.patch.yml:

- id: agent-default-model
  config:
    provider: deepinfra
    model: deepseek-ai/DeepSeek-V4-Flash

可选配置

字段 默认值 含义
baseURL https://api.deepinfra.com/v1/openai OpenAI 兼容 API 根路径
apiKeyEnv DEEPINFRA_API_KEY 经 DSH 凭证服务或环境变量解析的密钥环境变量名

自定义密钥环境变量名示例:

- id: provider-deepinfra
  config:
    apiKeyEnv: MY_DEEPINFRA_TOKEN

适用场景与注意

适合已经在用或计划用 DeepInfra 托管模型、又希望留在 DSH 统一会话、工具与 Web 工作流里的开发者。需要与内置 llm-pi-ai 并存、或希望模型目录随 DeepInfra 更新而自动刷新时,该插件比静态配置更省事。

注意:仅聊天模型会出现在目录;推理与图像能力取决于 DeepInfra 对模型的标注。私有或目录外模型需自行承担「窗口未知」时的压缩行为。密钥不要提交到版本库,优先用 DSH 凭证服务或受控环境变量。

结尾

dsh-provider-deepinfra 把 DeepInfra 的实时目录、流式补全、工具调用、推理与图像能力接到 DSH 的 deepinfra 路由上,并带上 prompt 缓存与统一的错误语义。查阅说明与 issue 见 GitHub 仓库,在社区目录浏览条目见 skillhub.cn/plugins/deepinfra/dsh-provider-deepinfra。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye