DeepSeek Harness 插件介绍:dsh-computer-use

前言

DeepSeek Harness (DSH) 的核心设计理念是「一切皆插件」。在 Linux 环境下开发计算机操作智能体时,现有方案大多依赖 Node 原生模块、PowerShell 或无障碍框架,这增加了环境配置的复杂度。dsh-computer-use 作为一个针对 Linux X11 的插件,通过轻量级的 Python XTest 辅助程序,解决了截图与真实鼠标键盘输入的需求。

插件定位

这是一个 DeepSeek Harness 插件,允许智能体在 Linux X11 桌面环境进行截图、鼠标移动、点击、拖拽、滚动以及键盘输入。它不依赖 Node.js 构建步骤或无障碍框架,直接通过 Python ctypes 调用 libX11 和 libXtst。该插件由 asdasdsdsdasdasdasd 维护,采用 MIT 许可证,并非 DeepSeek 官方维护的包。

核心功能

插件提供了一组工具接口,用于控制桌面环境:

  • computer_screenshot: 捕获屏幕(全屏或区域),返回图像及缩放元数据。
  • computer_move_mouse: 移动指针到指定像素坐标。
  • computer_click: 移动并点击鼠标。
  • computer_drag: 在两点之间拖拽。
  • computer_scroll: 在指定位置滚动滚轮。
  • computer_type: 在聚焦窗口输入文本。
  • computer_key: 发送按键或组合键。
  • computer_cursor: 读取当前指针位置。
  • computer_screen_info: 获取屏幕几何信息及 XTest 可用性。

安装与启用

在现有的 Harness 配置中添加该插件。请确保你的环境已安装 python3、libX11、libXtst 和 ImageMagick。

dsh plugin --profile web add github:asdasdsdsdasdasdasd/dsh-computer-use

安装后,重启 DSH 进程,并通过 dsh --profile web --dump-config 确认配置中出现了 # == dsh-computer-use 层。

配置说明

插件默认使用 danger-full-access 沙箱模式。由于需要通过 XTest 进行真实输入,建议在受控的 Linux 环境下使用。

可在 cordis.patch.yml 中调整配置:

- id: computer-use
  config:
    helper: /absolute/path/to/xc.py   # 默认为 index.js 旁边的 xc.py
    shotDir: /tmp/dsh-computer-use    # 截图临时目录
    defaultWidth: 1280                # 图片宽度上限
    sandboxMode: danger-full-access   # 沙箱模式
    observeAfterAction: true          # 操作后附带截图

使用示例

插件提供了一个 Python 辅助脚本 xc.py 用于验证环境。运行以下命令应返回包含屏幕尺寸和 xtest 状态的 JSON:

python3 xc.py info

坐标计算基于原生 X11 像素,若截图进行了缩放,需使用以下公式转换:

screen_xy = region_xy + image_xy * scale_xy

限制与注意事项

  • 平台限制: 仅支持 Linux X11。不支持 Wayland、macOS 或 Windows。
  • 依赖: 需要 python3, libX11, libXtst, ImageMagick。无 Node 构建步骤,无 PowerShell,无无障碍框架。
  • 权限: 默认 sandboxMode 为 danger-full-access,插件具备完全的桌面控制权,包括密码输入和破坏性操作。
  • 安全性: 请勿在包含敏感信息的共享会话或机器上启用此插件。请将此视为完全的桌面控制工具。

总结

如果你的智能体运行在 Linux X11 环境中,且希望避免复杂的 Node 或无障碍依赖,dsh-computer-use 提供了直接的 X11 截图与输入方案。安装后,智能体即可通过 computer_* 系列工具与真实桌面交互。

相关资源:
* 插件目录:https://www.skillhub.cn/plugins/asdasdsdsdasdasdasd/dsh-computer-use
* GitHub 仓库:https://github.com/asdasdsdsdasdasdasd/dsh-computer-use

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜