Arya Computer Use:基於 UIA 的 DSH 桌面操控與接管界面

前言

在 DeepSeek Harness(DSH)/ AryaCode 裏讓智能體操作 Windows 桌面,常見做法是走 PowerShell 加 UIA 後端,或依賴像素座標點擊。前者往往偏慢,後者在 DPI、窗口對齊變化時容易點偏。社區曾有的 dsh-computer-use-win(wincu)即屬這一類集成。KonnectSuite 維護的 Arya Computer Use(konnectsuite/dsh-arya-computer-use)用原生 Rust 引擎 agent-desktop 做無障礙樹引用(ref)級操作,並附帶接管覆蓋層(takeover overlay)與可選的瀏覽器 MCP 通道,設計上完全替代 wincu。下面介紹其定位、能力、安裝與使用約束。

這是什麼

Arya Computer Use 是面向 DSH/AryaCode 的客戶端類插件:在主機進程內掛載桌面適配 MCP(Lite 16 工具)與可選的 agent-browser Web 通道,提供設置頁、會話中的步驟行、窗口描邊與橫幅、合成幽靈光標,以及全局 Esc 中止。npm 包名爲 @aryacode/dsh-plugin-arya-computer-use(README 中當前資料版本爲 1.0.5,許可證 MIT)。維護者爲 KonnectSuite。

與 wincu 的主要差異

README 用表格歸納了替換動機,核心事實如下:

常見痛點(wincu) Arya Computer Use
PowerShell + UIA 後端偏慢 原生 Rust 引擎;作者在 Windows 開發機上記錄 snapshot 約 117 ms、ref 動作約 197 ms
像素對齊易偏 基於 UIA ref,座標不作爲瞄準機制;相同控件 twins 會被拒絕而非誤點
中文 UI/文檔 英文界面與文檔
DSH 集成與設置 UI 保留並擴展:設置頁、聊天步驟行、接管層、Esc、工具預設等

退役路徑見倉庫 docs/PLAN.md §7;Web 通道與 wincu 完全退役在路線圖中爲 Phase 3(計劃中)。

核心功能

桌面引擎(agent-desktop)

引擎以 npm 依賴 固定版本分發,不內嵌源碼:

  • agent-desktop 1.2.0(Apache-2.0)— Windows 無障礙樹 CLI,npm 攜帶原生二進制。
  • agent-browser 0.41.2(Apache-2.0)— 經 CDP 的 Web 通道(agent-browser mcp)。

適配層暴露 Lite 16 工具:snapshot, find, get, is, click, set_value, type, press, scroll, list_windows, launch, wait, screenshot, ocr, batch, tools(相對 wincu Lite 12 的超集)。要點:

  • set_value:通過無障礙 Value 模式填字段,不移動指針,適合無頭文本錄入。
  • type:合成真實按鍵,在 Windows 上屬於物理輸入,會移動指針並聚焦窗口。
  • tools:管理 headed/overlay/會話狀態。

Phase 0–2 在資料中標記爲已完成(Phase 0 於 2026-11-06 驗收;接管 UI 於 2026-11-07 實機驗證)。Phase 3–4(Web 通道完善、lazy 預設、npm 發佈流程等)爲計劃中項。

接管界面(takeover)

接管層在正在被驅動的窗口外加描邊與橫幅,展示智能體在做什麼;在操作位置繪製合成幽靈光標(不跟隨用戶真實指針)。覆蓋層中智能體默認自稱 Arya,名稱可在設置中改。全局 Esc 爲停止快捷鍵(合成按鍵會被忽略,需真實按鍵)。

Web 通道(arya_browser)

第二條 MCP 行經 mcp/browser-launcher.mjs 啓動 agent-browser,根據設置拼接 profile、session、state、CDP 附着、headed 等參數。示意命令(README 原文):

node mcp/browser-launcher.mjs          # → agent-browser mcp --tools core [--profile X] [--session Y] [--state Z] [--cdp ...] [--headed]

Web 通道相關設置變更在下一次 MCP 重啓後生效;設置頁會說明這一點。

架構要點

Cordis bundle 中 MCP 車道由 index.js 進程內掛載(ctx.plugin(<bridge>, …)),bundle patch 無絕對路徑、無 npx 子進程,與從市場安裝或從目錄 install_bundle 開發安裝行爲一致。

環境與權限要求

使用前請確認以下條件(均來自 README):

  1. DSH 宿主須以管理員身份運行(Run as administrator)。 引擎交互租約位於 C:\ProgramData\agent-desktop\<user-SID>\interaction.lock;非提升的中等完整性令牌會校驗失敗(lease_directory_untrusted),適配層會提示以管理員運行 AryaCode。
  2. 無障礙權限:desktop_status 中 accessibility 應爲 granted。
  3. 引擎狀態目錄:默認使用 ~/.agent-desktop;不要將 AGENT_DESKTOP_HOME 指向 %LOCALAPPDATA%(會觸發引擎私有 DACL 檢查失敗)。
  4. Node:>=18;DSH:>=0.2.1-rc.3 <0.3.0-0(見 package.json)。

插件能力隨當前 DSH/AryaCode 進程權限與無障礙授權而行;安裝前建議在 GitHub 倉庫覈對源碼與 LICENSE(MIT)及 NOTICE.md 中的引擎許可說明。

安裝與啓用

從插件市場安裝(推薦)

  1. 在 AryaCode 中打開 Plugins → Arya Plugin Market → add a source,粘貼市場索引 URL:
https://cdn.jsdelivr.net/gh/KonnectSuite/dsh-arya-computer-use@main/index.json
  1. 在列表中安裝 Arya Computer Use,然後重啓 AryaCode。

首次從市場安裝時,插件會向市場註冊上述源(保留已有源);npm staged 發佈通過後,新版本會出現在市場中。

開發目錄安裝

在 plugin_manager 中對本倉庫目錄執行 install_bundle。bundle 爲單行 arya-computer-use,MCP 仍爲進程內掛載,與市場安裝行爲一致。

資料中未提供 dsh plugin add github:... 類 CLI 安裝語句,請勿自行拼接。

設置項概覽

路徑:Settings → Plugins → Computer Use。常用項(默認值以 README 表格爲準):

設置 默認 含義摘要
Frame the app window on 僅描邊被驅動窗口與橫幅
Show a ghost cursor on 顯示合成光標
Agent name Arya 1–16 字符,影響幽靈光標與進度標題
Banner text Arya is controlling your computer 橫幅單行,1–120 字符
Real mouse and keyboard off 按會話可選真實鍵鼠;session_end 釋放,5 分鐘過期;文本優先用 set_value
One conversation drives at a time on 單次僅一會話可驅動桌面
Stop shortcut Esc 全局中止
Tool preset lite lite 列出 16 工具;lazy 按需展開
Tool surface (web) core agent-browser 工具配置檔
Chrome profile / Session – / arya 瀏覽器登錄態與會話名
Connect to my browser – CDP 端口或 URL
Show the browser window off Web 通道 --headed

典型用法思路

  1. 管理員啓動 AryaCode,確認無障礙已授予,在插件市場完成安裝並重啓。
  2. 在設置中按需開啓窗口描邊、幽靈光標;若僅需填表字段,在對話中引導智能體使用 set_value 而非默認物理輸入的 type。
  3. 桌面操作:智能體通過 MCP 調用 snapshot / find / click 等;用戶可隨時按 Esc 停止。
  4. 瀏覽器自動化:在設置中配置 Web 工具面、core 等 profile、可選 CDP 附着或保存的 sign-in state;變更後重啓 MCP 車道。
  5. 倉庫內 skills/arya-desktop/ 提供 observe-act 循環指引,可供智能體技能引用。

適用場景與注意

適合:需要在 DSH/AryaCode 內以語義化 UIA ref 驅動 Windows 原生應用,並希望有可見接管反饋與單會話驅動鎖的開發者;同時需要與 agent-browser 統一的 Web 自動化通道時,可在同一 bundle 內配置(Web 完善項仍見路線圖 Phase 3)。

注意:

  • 僅面向 Windows 桌面引擎路徑;宿主必須提升權限,否則租約校驗失敗。
  • 與像素方案相比,依賴無障礙樹質量;部分自繪 UI 可能樹不完整。
  • 社區目錄 skillhub.cn 插件頁 爲獨立收錄站點,與 DeepSeek / 幻方無官方從屬關係;以 KonnectSuite GitHub 與 npm 發佈爲準。

結尾

Arya Computer Use 將 DSH 上的「電腦使用」從 wincu 遷到 agent-desktop UIA 引擎,並用接管 UI 標明智能體操作邊界。安裝走 Arya Plugin Market 與上述 index.json 源即可。

  • 目錄頁:https://www.skillhub.cn/plugins/KonnectSuite/dsh-arya-computer-use
  • 源碼與文檔:https://github.com/KonnectSuite/dsh-arya-computer-use
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜