jolly-dsh-vision:DeepSeek Harness 视觉桥接插件

前言

DeepSeek Harness(DSH)的核心理念是「一切皆插件」,旨在通过模块化扩展能力。纯文本大模型(大脑)无法直接处理像素数据,导致在视觉场景下只能进行猜测或失灵。jolly-dsh-vision 作为一种 ModLens 风格的视觉桥接插件,通过引入专门的视觉模型(眼睛)来解决这个问题。它让纯文本模型也能看图,并提供结构化的证据输出。

核心能力

本插件主要提供两条视觉通路:

  1. vision 工具:大脑可主动调用此工具,传入本地路径或 URL,插件将图片存入附件库,通过 LLM Seam 调用视觉模型,返回包含 summary、ocr、layout 等字段的结构化证据 JSON。大脑基于这些证据而非猜测进行作答。
  2. (ds vision) 视觉孪生模型:在模型选择器中出现带 (ds vision) 后缀的条目(如 DeepSeek-V4-Pro (ds vision))。选中该条目后,可直接在输入框粘贴或拖入图片。插件会在请求发出前自动将图片转换成证据文本注入给大脑。

安装与启用

安装过程需要使用 DSH 的命令行工具。

dsh plugin --profile web add jolly-dsh-vision

安装完成后,确保 dsh.profile.bundles 中包含 jolly-dsh-vision,并重启 dsh web 以加载插件。

前置条件

  1. 环境要求:Node.js 版本需大于等于 20。
  2. 配置大脑与眼睛:在 ~/.dsh/settings.yaml 中配置两个模型。一个作为大脑(纯文本),一个作为眼睛(视觉)。
agent-default-model:
  provider: deepseek-official
  model: deepseek-v4-pro          # 大脑

llm-deepseek:
  models:
    - id: deepseek-v4-flash-vision-exp
      name: DeepSeek-V4-Flash-Vision-Exp
      inputModalities:
        - text
        - image                     # 眼睛必须声明支持图片输入

典型用法

通路 A:使用 vision 工具

在对话中,如果大脑需要看图,会自动调用 vision 工具。你可以直接传入本地文件路径或 HTTP(S) URL。

通路 B:直接贴图与 (ds vision) 孪生

  1. 在模型选择器中找到带 (ds vision) 后缀的条目。
  2. 在输入框直接粘贴或拖入图片。
  3. 图片会被自动转换为证据文本,大脑会引用这些证据进行回答。同一会话内同一张图只转换一次。

注意:普通纯文本模型条目依然不接受贴图,必须选择带 (ds vision) 后缀的条目。

安全与隐私

  • API Key 零接触:插件不会读取、记录或转发任何 API Key。密钥由 Harness 的凭据 seam 在每次调用时解析,代码不构造 Authorization 头。
  • SSRF 防护:vision 工具默认拒绝私有网段、环回地址(如 localhost)和链路本地地址,防止恶意提示词诱导请求内网资源。如需内网资源,可在配置中开启 allowPrivateUrls。
  • 信任边界:插件以当前 DSH 进程权限运行,vision 工具能读取进程可读的任意图片文件。图片路径(含解析后的绝对路径)会进入会话日志,多人共享会话时需注意数据泄露风险。

已知限制

  1. 格式支持:仅支持 png、jpeg、gif、webp。HEIC 格式需先转码。
  2. 路由机制:视觉孪生目前为单路由实现,暂不支持像 modlens 那样的多路由自动发现。
  3. 依赖:零依赖(纯 Node 内置模块)。

结语

jolly-dsh-vision 通过极简的架构为 DSH 补齐了视觉能力,利用 deepseek-v4-flash-vision-exp 作为眼睛,让 deepseek-v4-pro 等大脑模型能够通过结构化证据进行更准确的视觉推理。项目代码基于 MIT 许可证,派生自 liustack/modlens。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜