前言¶
在 DeepSeek Harness(DSH)/ AryaCode 里让智能体操作 Windows 桌面,常见做法是走 PowerShell 加 UIA 后端,或依赖像素坐标点击。前者往往偏慢,后者在 DPI、窗口对齐变化时容易点偏。社区曾有的 dsh-computer-use-win(wincu)即属这一类集成。KonnectSuite 维护的 Arya Computer Use(konnectsuite/dsh-arya-computer-use)用原生 Rust 引擎 agent-desktop 做无障碍树引用(ref)级操作,并附带接管覆盖层(takeover overlay)与可选的浏览器 MCP 通道,设计上完全替代 wincu。下面介绍其定位、能力、安装与使用约束。
这是什么¶
Arya Computer Use 是面向 DSH/AryaCode 的客户端类插件:在主机进程内挂载桌面适配 MCP(Lite 16 工具)与可选的 agent-browser Web 通道,提供设置页、会话中的步骤行、窗口描边与横幅、合成幽灵光标,以及全局 Esc 中止。npm 包名为 @aryacode/dsh-plugin-arya-computer-use(README 中当前资料版本为 1.0.5,许可证 MIT)。维护者为 KonnectSuite。
与 wincu 的主要差异¶
README 用表格归纳了替换动机,核心事实如下:
| 常见痛点(wincu) | Arya Computer Use |
|---|---|
| PowerShell + UIA 后端偏慢 | 原生 Rust 引擎;作者在 Windows 开发机上记录 snapshot 约 117 ms、ref 动作约 197 ms |
| 像素对齐易偏 | 基于 UIA ref,坐标不作为瞄准机制;相同控件 twins 会被拒绝而非误点 |
| 中文 UI/文档 | 英文界面与文档 |
| DSH 集成与设置 UI | 保留并扩展:设置页、聊天步骤行、接管层、Esc、工具预设等 |
退役路径见仓库 docs/PLAN.md §7;Web 通道与 wincu 完全退役在路线图中为 Phase 3(计划中)。
核心功能¶
桌面引擎(agent-desktop)¶
引擎以 npm 依赖 固定版本分发,不内嵌源码:
agent-desktop1.2.0(Apache-2.0)— Windows 无障碍树 CLI,npm 携带原生二进制。agent-browser0.41.2(Apache-2.0)— 经 CDP 的 Web 通道(agent-browser mcp)。
适配层暴露 Lite 16 工具:snapshot, find, get, is, click, set_value, type, press, scroll, list_windows, launch, wait, screenshot, ocr, batch, tools(相对 wincu Lite 12 的超集)。要点:
set_value:通过无障碍 Value 模式填字段,不移动指针,适合无头文本录入。type:合成真实按键,在 Windows 上属于物理输入,会移动指针并聚焦窗口。tools:管理 headed/overlay/会话状态。
Phase 0–2 在资料中标记为已完成(Phase 0 于 2026-11-06 验收;接管 UI 于 2026-11-07 实机验证)。Phase 3–4(Web 通道完善、lazy 预设、npm 发布流程等)为计划中项。
接管界面(takeover)¶
接管层在正在被驱动的窗口外加描边与横幅,展示智能体在做什么;在操作位置绘制合成幽灵光标(不跟随用户真实指针)。覆盖层中智能体默认自称 Arya,名称可在设置中改。全局 Esc 为停止快捷键(合成按键会被忽略,需真实按键)。
Web 通道(arya_browser)¶
第二条 MCP 行经 mcp/browser-launcher.mjs 启动 agent-browser,根据设置拼接 profile、session、state、CDP 附着、headed 等参数。示意命令(README 原文):
node mcp/browser-launcher.mjs # → agent-browser mcp --tools core [--profile X] [--session Y] [--state Z] [--cdp ...] [--headed]
Web 通道相关设置变更在下一次 MCP 重启后生效;设置页会说明这一点。
架构要点¶
Cordis bundle 中 MCP 车道由 index.js 进程内挂载(ctx.plugin(<bridge>, …)),bundle patch 无绝对路径、无 npx 子进程,与从市场安装或从目录 install_bundle 开发安装行为一致。
环境与权限要求¶
使用前请确认以下条件(均来自 README):
- DSH 宿主须以管理员身份运行(Run as administrator)。 引擎交互租约位于
C:\ProgramData\agent-desktop\<user-SID>\interaction.lock;非提升的中等完整性令牌会校验失败(lease_directory_untrusted),适配层会提示以管理员运行 AryaCode。 - 无障碍权限:
desktop_status中accessibility应为granted。 - 引擎状态目录:默认使用
~/.agent-desktop;不要将AGENT_DESKTOP_HOME指向%LOCALAPPDATA%(会触发引擎私有 DACL 检查失败)。 - Node:
>=18;DSH:>=0.2.1-rc.3 <0.3.0-0(见package.json)。
插件能力随当前 DSH/AryaCode 进程权限与无障碍授权而行;安装前建议在 GitHub 仓库核对源码与 LICENSE(MIT)及 NOTICE.md 中的引擎许可说明。
安装与启用¶
从插件市场安装(推荐)¶
- 在 AryaCode 中打开 Plugins → Arya Plugin Market → add a source,粘贴市场索引 URL:
https://cdn.jsdelivr.net/gh/KonnectSuite/dsh-arya-computer-use@main/index.json
- 在列表中安装 Arya Computer Use,然后重启 AryaCode。
首次从市场安装时,插件会向市场注册上述源(保留已有源);npm staged 发布通过后,新版本会出现在市场中。
开发目录安装¶
在 plugin_manager 中对本仓库目录执行 install_bundle。bundle 为单行 arya-computer-use,MCP 仍为进程内挂载,与市场安装行为一致。
资料中未提供 dsh plugin add github:... 类 CLI 安装语句,请勿自行拼接。
设置项概览¶
路径:Settings → Plugins → Computer Use。常用项(默认值以 README 表格为准):
| 设置 | 默认 | 含义摘要 |
|---|---|---|
| Frame the app window | on | 仅描边被驱动窗口与横幅 |
| Show a ghost cursor | on | 显示合成光标 |
| Agent name | Arya |
1–16 字符,影响幽灵光标与进度标题 |
| Banner text | Arya is controlling your computer |
横幅单行,1–120 字符 |
| Real mouse and keyboard | off | 按会话可选真实键鼠;session_end 释放,5 分钟过期;文本优先用 set_value |
| One conversation drives at a time | on | 单次仅一会话可驱动桌面 |
| Stop shortcut | Esc | 全局中止 |
| Tool preset | lite |
lite 列出 16 工具;lazy 按需展开 |
| Tool surface (web) | core |
agent-browser 工具配置档 |
| Chrome profile / Session | – / arya |
浏览器登录态与会话名 |
| Connect to my browser | – | CDP 端口或 URL |
| Show the browser window | off | Web 通道 --headed |
典型用法思路¶
- 管理员启动 AryaCode,确认无障碍已授予,在插件市场完成安装并重启。
- 在设置中按需开启窗口描边、幽灵光标;若仅需填表字段,在对话中引导智能体使用
set_value而非默认物理输入的type。 - 桌面操作:智能体通过 MCP 调用
snapshot/find/click等;用户可随时按 Esc 停止。 - 浏览器自动化:在设置中配置 Web 工具面、
core等 profile、可选 CDP 附着或保存的 sign-in state;变更后重启 MCP 车道。 - 仓库内
skills/arya-desktop/提供 observe-act 循环指引,可供智能体技能引用。
适用场景与注意¶
适合:需要在 DSH/AryaCode 内以语义化 UIA ref 驱动 Windows 原生应用,并希望有可见接管反馈与单会话驱动锁的开发者;同时需要与 agent-browser 统一的 Web 自动化通道时,可在同一 bundle 内配置(Web 完善项仍见路线图 Phase 3)。
注意:
- 仅面向 Windows 桌面引擎路径;宿主必须提升权限,否则租约校验失败。
- 与像素方案相比,依赖无障碍树质量;部分自绘 UI 可能树不完整。
- 社区目录 skillhub.cn 插件页 为独立收录站点,与 DeepSeek / 幻方无官方从属关系;以 KonnectSuite GitHub 与 npm 发布为准。
结尾¶
Arya Computer Use 将 DSH 上的「电脑使用」从 wincu 迁到 agent-desktop UIA 引擎,并用接管 UI 标明智能体操作边界。安装走 Arya Plugin Market 与上述 index.json 源即可。
- 目录页:https://www.skillhub.cn/plugins/KonnectSuite/dsh-arya-computer-use
- 源码与文档:https://github.com/KonnectSuite/dsh-arya-computer-use