前言¶
DeepSeek Harness(DSH)的核心理念是「一切皆插件」,旨在通过模块化扩展能力。纯文本大模型(大脑)无法直接处理像素数据,导致在视觉场景下只能进行猜测或失灵。jolly-dsh-vision 作为一种 ModLens 风格的视觉桥接插件,通过引入专门的视觉模型(眼睛)来解决这个问题。它让纯文本模型也能看图,并提供结构化的证据输出。
核心能力¶
本插件主要提供两条视觉通路:
vision工具:大脑可主动调用此工具,传入本地路径或 URL,插件将图片存入附件库,通过 LLM Seam 调用视觉模型,返回包含 summary、ocr、layout 等字段的结构化证据 JSON。大脑基于这些证据而非猜测进行作答。(ds vision)视觉孪生模型:在模型选择器中出现带(ds vision)后缀的条目(如DeepSeek-V4-Pro (ds vision))。选中该条目后,可直接在输入框粘贴或拖入图片。插件会在请求发出前自动将图片转换成证据文本注入给大脑。
安装与启用¶
安装过程需要使用 DSH 的命令行工具。
dsh plugin --profile web add jolly-dsh-vision
安装完成后,确保 dsh.profile.bundles 中包含 jolly-dsh-vision,并重启 dsh web 以加载插件。
前置条件¶
- 环境要求:Node.js 版本需大于等于 20。
- 配置大脑与眼睛:在
~/.dsh/settings.yaml中配置两个模型。一个作为大脑(纯文本),一个作为眼睛(视觉)。
agent-default-model:
provider: deepseek-official
model: deepseek-v4-pro # 大脑
llm-deepseek:
models:
- id: deepseek-v4-flash-vision-exp
name: DeepSeek-V4-Flash-Vision-Exp
inputModalities:
- text
- image # 眼睛必须声明支持图片输入
典型用法¶
通路 A:使用 vision 工具¶
在对话中,如果大脑需要看图,会自动调用 vision 工具。你可以直接传入本地文件路径或 HTTP(S) URL。
通路 B:直接贴图与 (ds vision) 孪生¶
- 在模型选择器中找到带
(ds vision)后缀的条目。 - 在输入框直接粘贴或拖入图片。
- 图片会被自动转换为证据文本,大脑会引用这些证据进行回答。同一会话内同一张图只转换一次。
注意:普通纯文本模型条目依然不接受贴图,必须选择带
(ds vision)后缀的条目。
安全与隐私¶
- API Key 零接触:插件不会读取、记录或转发任何 API Key。密钥由 Harness 的凭据 seam 在每次调用时解析,代码不构造 Authorization 头。
- SSRF 防护:
vision工具默认拒绝私有网段、环回地址(如localhost)和链路本地地址,防止恶意提示词诱导请求内网资源。如需内网资源,可在配置中开启allowPrivateUrls。 - 信任边界:插件以当前 DSH 进程权限运行,
vision工具能读取进程可读的任意图片文件。图片路径(含解析后的绝对路径)会进入会话日志,多人共享会话时需注意数据泄露风险。
已知限制¶
- 格式支持:仅支持 png、jpeg、gif、webp。HEIC 格式需先转码。
- 路由机制:视觉孪生目前为单路由实现,暂不支持像 modlens 那样的多路由自动发现。
- 依赖:零依赖(纯 Node 内置模块)。
结语¶
jolly-dsh-vision 通过极简的架构为 DSH 补齐了视觉能力,利用 deepseek-v4-flash-vision-exp 作为眼睛,让 deepseek-v4-pro 等大脑模型能够通过结构化证据进行更准确的视觉推理。项目代码基于 MIT 许可证,派生自 liustack/modlens。