DeepSeek Harness 插件:computer-user-vision

前言

DeepSeek Harness (DSH) 的插件生态强调模块化与扩展性。在尝试使用基于 computer-user 的自动化插件时,开发者常遇到一个静默的加载失败问题:当 DSH 版本高于 0.1.2 时,插件无法正常加载,导致所有 computer_* 工具失效。此外,原版插件返回截图路径而非图片本身,限制了视觉模型直接读取屏幕的能力。computer-user-vision 是其非官方分叉版,旨在修复上述问题,并为 Windows 平台上的 DSH 提供更精确的屏幕控制与图像交互能力。

是什么

该插件是对 computer-user 的非官方分叉,专为在 Windows 上运行的 DeepSeek Harness (DSH) 设计。它修复了 DSH 0.1.2 及更高版本上的静默加载失败问题,并将截图作为真实图片(而非文件路径)返回给视觉模型,同时提供了精确的图像到屏幕像素的映射关系。

核心功能

  • 加载与兼容性修复:解决了 DSH 0.1.2+ 版本下插件无法加载的问题,通过将命名导入改为命名空间导入,并添加特性检测,兼容新旧 API 版本。
  • 视觉交互增强:computer_screenshot 返回真实图片数据而非路径,并携带 screen_per_pixel 属性,确保视觉模型能精确识别屏幕位置。视觉模式会根据 vision_max_pixels 配置重新截图,避免模糊。
  • UI Automation 支持:支持通过 ref 或 name 直接点击 UI 元素,无需手动计算像素坐标。新增 computer_elements 工具可枚举当前窗口控件。
  • 窗口与输入控制:提供 computer_list_windows 和 computer_activate_window 用于精确窗口管理。输入工具(打字、按键、滚动、拖拽)支持 expect_window 参数,在发送输入前检查焦点窗口是否匹配,防止输入错乱。
  • 安全与感知:内置控制指示器,显示停止按钮和全局热键。支持 PerMonitorV2 DPI 感知,解决高分屏下的坐标偏移问题。

安装与启用

  • 环境要求:
    • 操作系统:Windows (仅支持 win32)。
    • Node.js:需要版本 ^22.19 或 >=24。
  • 安装方式:
    • 根据 README 文本,未提供具体的安装命令。建议通过插件目录页面或直接访问 GitHub 仓库进行配置。插件遵循 MIT 许可证。

典型用法

  • 截图并显示网格:
    computer_screenshot({ grid: 100 })
  • 带窗口检查的输入:
    // 只有当当前窗口标题包含“记事本”时才输入文本
    { "text": "hello", "expect_window": "记事本" }

适用场景与注意

该插件专为在 Windows 平台上运行的 DeepSeek Harness 设计。由于涉及屏幕截图和输入控制,插件以当前 DSH 进程的权限运行。在安装前,建议查阅源码以确认其行为符合预期。

结语

computer-user-vision 通过修复加载兼容性问题并引入基于 UI Automation 的精确控制机制,填补了 DSH 在 Windows 端视觉自动化场景下的空白。如需进一步了解或贡献,可访问插件目录或 GitHub 仓库。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜