Arya Computer Use:基于 UIA 的 DSH 桌面操控与接管界面

前言

在 DeepSeek Harness(DSH)/ AryaCode 里让智能体操作 Windows 桌面,常见做法是走 PowerShell 加 UIA 后端,或依赖像素坐标点击。前者往往偏慢,后者在 DPI、窗口对齐变化时容易点偏。社区曾有的 dsh-computer-use-win(wincu)即属这一类集成。KonnectSuite 维护的 Arya Computer Use(konnectsuite/dsh-arya-computer-use)用原生 Rust 引擎 agent-desktop 做无障碍树引用(ref)级操作,并附带接管覆盖层(takeover overlay)与可选的浏览器 MCP 通道,设计上完全替代 wincu。下面介绍其定位、能力、安装与使用约束。

这是什么

Arya Computer Use 是面向 DSH/AryaCode 的客户端类插件:在主机进程内挂载桌面适配 MCP(Lite 16 工具)与可选的 agent-browser Web 通道,提供设置页、会话中的步骤行、窗口描边与横幅、合成幽灵光标,以及全局 Esc 中止。npm 包名为 @aryacode/dsh-plugin-arya-computer-use(README 中当前资料版本为 1.0.5,许可证 MIT)。维护者为 KonnectSuite。

与 wincu 的主要差异

README 用表格归纳了替换动机,核心事实如下:

常见痛点(wincu) Arya Computer Use
PowerShell + UIA 后端偏慢 原生 Rust 引擎;作者在 Windows 开发机上记录 snapshot 约 117 ms、ref 动作约 197 ms
像素对齐易偏 基于 UIA ref,坐标不作为瞄准机制;相同控件 twins 会被拒绝而非误点
中文 UI/文档 英文界面与文档
DSH 集成与设置 UI 保留并扩展:设置页、聊天步骤行、接管层、Esc、工具预设等

退役路径见仓库 docs/PLAN.md §7;Web 通道与 wincu 完全退役在路线图中为 Phase 3(计划中)。

核心功能

桌面引擎(agent-desktop)

引擎以 npm 依赖 固定版本分发,不内嵌源码:

  • agent-desktop 1.2.0(Apache-2.0)— Windows 无障碍树 CLI,npm 携带原生二进制。
  • agent-browser 0.41.2(Apache-2.0)— 经 CDP 的 Web 通道(agent-browser mcp)。

适配层暴露 Lite 16 工具:snapshot, find, get, is, click, set_value, type, press, scroll, list_windows, launch, wait, screenshot, ocr, batch, tools(相对 wincu Lite 12 的超集)。要点:

  • set_value:通过无障碍 Value 模式填字段,不移动指针,适合无头文本录入。
  • type:合成真实按键,在 Windows 上属于物理输入,会移动指针并聚焦窗口。
  • tools:管理 headed/overlay/会话状态。

Phase 0–2 在资料中标记为已完成(Phase 0 于 2026-11-06 验收;接管 UI 于 2026-11-07 实机验证)。Phase 3–4(Web 通道完善、lazy 预设、npm 发布流程等)为计划中项。

接管界面(takeover)

接管层在正在被驱动的窗口外加描边与横幅,展示智能体在做什么;在操作位置绘制合成幽灵光标(不跟随用户真实指针)。覆盖层中智能体默认自称 Arya,名称可在设置中改。全局 Esc 为停止快捷键(合成按键会被忽略,需真实按键)。

Web 通道(arya_browser)

第二条 MCP 行经 mcp/browser-launcher.mjs 启动 agent-browser,根据设置拼接 profile、session、state、CDP 附着、headed 等参数。示意命令(README 原文):

node mcp/browser-launcher.mjs          # → agent-browser mcp --tools core [--profile X] [--session Y] [--state Z] [--cdp ...] [--headed]

Web 通道相关设置变更在下一次 MCP 重启后生效;设置页会说明这一点。

架构要点

Cordis bundle 中 MCP 车道由 index.js 进程内挂载(ctx.plugin(<bridge>, …)),bundle patch 无绝对路径、无 npx 子进程,与从市场安装或从目录 install_bundle 开发安装行为一致。

环境与权限要求

使用前请确认以下条件(均来自 README):

  1. DSH 宿主须以管理员身份运行(Run as administrator)。 引擎交互租约位于 C:\ProgramData\agent-desktop\<user-SID>\interaction.lock;非提升的中等完整性令牌会校验失败(lease_directory_untrusted),适配层会提示以管理员运行 AryaCode。
  2. 无障碍权限:desktop_status 中 accessibility 应为 granted。
  3. 引擎状态目录:默认使用 ~/.agent-desktop;不要将 AGENT_DESKTOP_HOME 指向 %LOCALAPPDATA%(会触发引擎私有 DACL 检查失败)。
  4. Node:>=18;DSH:>=0.2.1-rc.3 <0.3.0-0(见 package.json)。

插件能力随当前 DSH/AryaCode 进程权限与无障碍授权而行;安装前建议在 GitHub 仓库核对源码与 LICENSE(MIT)及 NOTICE.md 中的引擎许可说明。

安装与启用

从插件市场安装(推荐)

  1. 在 AryaCode 中打开 Plugins → Arya Plugin Market → add a source,粘贴市场索引 URL:
https://cdn.jsdelivr.net/gh/KonnectSuite/dsh-arya-computer-use@main/index.json
  1. 在列表中安装 Arya Computer Use,然后重启 AryaCode。

首次从市场安装时,插件会向市场注册上述源(保留已有源);npm staged 发布通过后,新版本会出现在市场中。

开发目录安装

在 plugin_manager 中对本仓库目录执行 install_bundle。bundle 为单行 arya-computer-use,MCP 仍为进程内挂载,与市场安装行为一致。

资料中未提供 dsh plugin add github:... 类 CLI 安装语句,请勿自行拼接。

设置项概览

路径:Settings → Plugins → Computer Use。常用项(默认值以 README 表格为准):

设置 默认 含义摘要
Frame the app window on 仅描边被驱动窗口与横幅
Show a ghost cursor on 显示合成光标
Agent name Arya 1–16 字符,影响幽灵光标与进度标题
Banner text Arya is controlling your computer 横幅单行,1–120 字符
Real mouse and keyboard off 按会话可选真实键鼠;session_end 释放,5 分钟过期;文本优先用 set_value
One conversation drives at a time on 单次仅一会话可驱动桌面
Stop shortcut Esc 全局中止
Tool preset lite lite 列出 16 工具;lazy 按需展开
Tool surface (web) core agent-browser 工具配置档
Chrome profile / Session – / arya 浏览器登录态与会话名
Connect to my browser – CDP 端口或 URL
Show the browser window off Web 通道 --headed

典型用法思路

  1. 管理员启动 AryaCode,确认无障碍已授予,在插件市场完成安装并重启。
  2. 在设置中按需开启窗口描边、幽灵光标;若仅需填表字段,在对话中引导智能体使用 set_value 而非默认物理输入的 type。
  3. 桌面操作:智能体通过 MCP 调用 snapshot / find / click 等;用户可随时按 Esc 停止。
  4. 浏览器自动化:在设置中配置 Web 工具面、core 等 profile、可选 CDP 附着或保存的 sign-in state;变更后重启 MCP 车道。
  5. 仓库内 skills/arya-desktop/ 提供 observe-act 循环指引,可供智能体技能引用。

适用场景与注意

适合:需要在 DSH/AryaCode 内以语义化 UIA ref 驱动 Windows 原生应用,并希望有可见接管反馈与单会话驱动锁的开发者;同时需要与 agent-browser 统一的 Web 自动化通道时,可在同一 bundle 内配置(Web 完善项仍见路线图 Phase 3)。

注意:

  • 仅面向 Windows 桌面引擎路径;宿主必须提升权限,否则租约校验失败。
  • 与像素方案相比,依赖无障碍树质量;部分自绘 UI 可能树不完整。
  • 社区目录 skillhub.cn 插件页 为独立收录站点,与 DeepSeek / 幻方无官方从属关系;以 KonnectSuite GitHub 与 npm 发布为准。

结尾

Arya Computer Use 将 DSH 上的「电脑使用」从 wincu 迁到 agent-desktop UIA 引擎,并用接管 UI 标明智能体操作边界。安装走 Arya Plugin Market 与上述 index.json 源即可。

  • 目录页:https://www.skillhub.cn/plugins/KonnectSuite/dsh-arya-computer-use
  • 源码与文档:https://github.com/KonnectSuite/dsh-arya-computer-use
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye