前言¶
DeepSeek Harness(DSH)的官方线路是纯文本。在 Web 里粘贴图片时,可能会遇到:
当前模型不支持图片
对智能体开发者来说,这个报错会把截图、报错图、界面图等输入直接挡在外面。dsh-plugin-multimodal 处理的是这个入口问题:先让图片附件不被拒绝,再把图片内容转成文字交给主模型。
这是什么¶
dsh-plugin-multimodal 由 shinjiyu 维护,许可证为 MIT。Node 引擎要求如下:
>=18
它的一句定位是:
Vision sidecar for DeepSeek Harness: accept image attachments on text-only models, describe them, then send text to the main model.
也就是说,当主模型本身是纯文本模型时,插件先在 GUI 侧收下图片,再调用能看图的 sidecar 生成文字描述,最后把文字发送给主模型。
核心功能¶
- 主模型本身收图时,原样把图交给模型,不转文字。
- 主模型是纯文本时,GUI 先收下图,sidecar 转成文字再发给主模型。
- 提供用于磁盘截图的入口:
see_image
- 用于 Web 粘贴图片的贴图准入,避免当前模型不支持图片时直接拒绝。
- 支持通过以下环境变量配置视觉 sidecar:
DSH_VISION_BASE_URL
DSH_VISION_API_KEY
DSH_VISION_MODEL
DSH_VISION_PROMPT
- 未设置
DSH_VISION_*时,回退:
OPENAI_BASE_URL
OPENAI_API_KEY
- 支持在 profile 的
cordis.patch.yml中配置dsh-plugin-multimodal。
安装与启用¶
先安装到指定 profile:
dsh plugin --profile web add github:shinjiyu/dsh-plugin-multimodal
如果使用本地目录:
dsh plugin --profile web add D:\tempWorkspace\dsh-plugin-multimodal
安装后重启 DSH Web 进程:
dsh web
旧会话的工具表不会更新,需要在新会话里验证。
配置¶
环境变量方式:
DSH_VISION_BASE_URL=https://api.example/v1
DSH_VISION_API_KEY=...
DSH_VISION_MODEL=glm-4.5v
DSH_VISION_PROMPT=...
DSH_VISION_BASE_URL:视觉接口。DSH_VISION_API_KEY:该接口的 key。DSH_VISION_MODEL:需要是真能看图的模型。DSH_VISION_PROMPT:可选。
未设置 DSH_VISION_* 时,回退 OPENAI_BASE_URL / OPENAI_API_KEY。
也可以在 profile 的 cordis.patch.yml 中写:
- id: dsh-plugin-multimodal
name: dsh-plugin-multimodal
inject: [llm, tools, attachments, systemPrompt]
config:
model: glm-4.5v
apiKeyEnv: DSH_VISION_API_KEY
apiKeyEnv 写的是环境变量名,key 本身不要写进仓库。
典型用法¶
先做一次验收:
- 主模型使用官方纯文本模型。
- 配置一个真能看图的 sidecar。
- 在 Web 中粘贴一张报错截图,并问“红字说了什么”。
- 通过标准:不再出现“当前模型不支持图片”,主模型能引用图上的文字。
磁盘文件场景:
如果截图已经是磁盘上的文件,可以让它调用:
see_image
适用场景与注意¶
适合:
- 主模型走 DSH 官方纯文本线路。
- 需要在 Web 里粘贴截图,并让主模型基于文字继续处理。
- 需要处理磁盘上的截图文件。
- 希望保持主模型纯文本输入,同时补上图片入口。
注意:
- 不要把 sidecar 指到
GLM-5.2-FP8这类文本模型。 - 不要把 sidecar 指到
deepseek-v4-flash或其他纯文本模型。 - 不要把 key 写进仓库。
- 不要改
runtime/或官方 DeepSeek adapter。 - 不要把它宣传成视觉工具箱;它的定位是贴图准入,不是视觉工具箱。
- 插件以当前
dsh进程权限运行,安装前应检查源码与许可证。 - 微信群不是官方群。README 中提到的本张微信群码有效期到 2026-08-23;按 2026-09-01 的日期看可能已过期,是否可用以仓库内最新说明为准。
结尾¶
dsh-plugin-multimodal 补的是 DSH 纯文本会话里的贴图入口:它不改主模型的文本路线,而是用 sidecar 先把图片转成文字。
DSH 插件生态的社区目录是独立站点,与 DeepSeek / 幻方无官方从属关系;目录页入口以仓库 README 中给出的说明为准。
GitHub:
https://github.com/shinjiyu/dsh-plugin-multimodal