前言¶
DeepSeek Harness (DSH) 的插件生态强调模块化与扩展性。在尝试使用基于 computer-user 的自动化插件时,开发者常遇到一个静默的加载失败问题:当 DSH 版本高于 0.1.2 时,插件无法正常加载,导致所有 computer_* 工具失效。此外,原版插件返回截图路径而非图片本身,限制了视觉模型直接读取屏幕的能力。computer-user-vision 是其非官方分叉版,旨在修复上述问题,并为 Windows 平台上的 DSH 提供更精确的屏幕控制与图像交互能力。
是什么¶
该插件是对 computer-user 的非官方分叉,专为在 Windows 上运行的 DeepSeek Harness (DSH) 设计。它修复了 DSH 0.1.2 及更高版本上的静默加载失败问题,并将截图作为真实图片(而非文件路径)返回给视觉模型,同时提供了精确的图像到屏幕像素的映射关系。
核心功能¶
- 加载与兼容性修复:解决了 DSH 0.1.2+ 版本下插件无法加载的问题,通过将命名导入改为命名空间导入,并添加特性检测,兼容新旧 API 版本。
- 视觉交互增强:
computer_screenshot返回真实图片数据而非路径,并携带screen_per_pixel属性,确保视觉模型能精确识别屏幕位置。视觉模式会根据vision_max_pixels配置重新截图,避免模糊。 - UI Automation 支持:支持通过
ref或name直接点击 UI 元素,无需手动计算像素坐标。新增computer_elements工具可枚举当前窗口控件。 - 窗口与输入控制:提供
computer_list_windows和computer_activate_window用于精确窗口管理。输入工具(打字、按键、滚动、拖拽)支持expect_window参数,在发送输入前检查焦点窗口是否匹配,防止输入错乱。 - 安全与感知:内置控制指示器,显示停止按钮和全局热键。支持 PerMonitorV2 DPI 感知,解决高分屏下的坐标偏移问题。
安装与启用¶
- 环境要求:
- 操作系统:Windows (仅支持
win32)。 - Node.js:需要版本
^22.19或>=24。
- 操作系统:Windows (仅支持
- 安装方式:
- 根据 README 文本,未提供具体的安装命令。建议通过插件目录页面或直接访问 GitHub 仓库进行配置。插件遵循 MIT 许可证。
典型用法¶
- 截图并显示网格:
computer_screenshot({ grid: 100 })
- 带窗口检查的输入:
// 只有当当前窗口标题包含“记事本”时才输入文本
{ "text": "hello", "expect_window": "记事本" }
适用场景与注意¶
该插件专为在 Windows 平台上运行的 DeepSeek Harness 设计。由于涉及屏幕截图和输入控制,插件以当前 DSH 进程的权限运行。在安装前,建议查阅源码以确认其行为符合预期。
结语¶
computer-user-vision 通过修复加载兼容性问题并引入基于 UI Automation 的精确控制机制,填补了 DSH 在 Windows 端视觉自动化场景下的空白。如需进一步了解或贡献,可访问插件目录或 GitHub 仓库。