前言¶
在 DeepSeek Harness(DSH)/ AryaCode 裏讓智能體操作 Windows 桌面,常見做法是走 PowerShell 加 UIA 後端,或依賴像素座標點擊。前者往往偏慢,後者在 DPI、窗口對齊變化時容易點偏。社區曾有的 dsh-computer-use-win(wincu)即屬這一類集成。KonnectSuite 維護的 Arya Computer Use(konnectsuite/dsh-arya-computer-use)用原生 Rust 引擎 agent-desktop 做無障礙樹引用(ref)級操作,並附帶接管覆蓋層(takeover overlay)與可選的瀏覽器 MCP 通道,設計上完全替代 wincu。下面介紹其定位、能力、安裝與使用約束。
這是什麼¶
Arya Computer Use 是面向 DSH/AryaCode 的客戶端類插件:在主機進程內掛載桌面適配 MCP(Lite 16 工具)與可選的 agent-browser Web 通道,提供設置頁、會話中的步驟行、窗口描邊與橫幅、合成幽靈光標,以及全局 Esc 中止。npm 包名爲 @aryacode/dsh-plugin-arya-computer-use(README 中當前資料版本爲 1.0.5,許可證 MIT)。維護者爲 KonnectSuite。
與 wincu 的主要差異¶
README 用表格歸納了替換動機,核心事實如下:
| 常見痛點(wincu) | Arya Computer Use |
|---|---|
| PowerShell + UIA 後端偏慢 | 原生 Rust 引擎;作者在 Windows 開發機上記錄 snapshot 約 117 ms、ref 動作約 197 ms |
| 像素對齊易偏 | 基於 UIA ref,座標不作爲瞄準機制;相同控件 twins 會被拒絕而非誤點 |
| 中文 UI/文檔 | 英文界面與文檔 |
| DSH 集成與設置 UI | 保留並擴展:設置頁、聊天步驟行、接管層、Esc、工具預設等 |
退役路徑見倉庫 docs/PLAN.md §7;Web 通道與 wincu 完全退役在路線圖中爲 Phase 3(計劃中)。
核心功能¶
桌面引擎(agent-desktop)¶
引擎以 npm 依賴 固定版本分發,不內嵌源碼:
agent-desktop1.2.0(Apache-2.0)— Windows 無障礙樹 CLI,npm 攜帶原生二進制。agent-browser0.41.2(Apache-2.0)— 經 CDP 的 Web 通道(agent-browser mcp)。
適配層暴露 Lite 16 工具:snapshot, find, get, is, click, set_value, type, press, scroll, list_windows, launch, wait, screenshot, ocr, batch, tools(相對 wincu Lite 12 的超集)。要點:
set_value:通過無障礙 Value 模式填字段,不移動指針,適合無頭文本錄入。type:合成真實按鍵,在 Windows 上屬於物理輸入,會移動指針並聚焦窗口。tools:管理 headed/overlay/會話狀態。
Phase 0–2 在資料中標記爲已完成(Phase 0 於 2026-11-06 驗收;接管 UI 於 2026-11-07 實機驗證)。Phase 3–4(Web 通道完善、lazy 預設、npm 發佈流程等)爲計劃中項。
接管界面(takeover)¶
接管層在正在被驅動的窗口外加描邊與橫幅,展示智能體在做什麼;在操作位置繪製合成幽靈光標(不跟隨用戶真實指針)。覆蓋層中智能體默認自稱 Arya,名稱可在設置中改。全局 Esc 爲停止快捷鍵(合成按鍵會被忽略,需真實按鍵)。
Web 通道(arya_browser)¶
第二條 MCP 行經 mcp/browser-launcher.mjs 啓動 agent-browser,根據設置拼接 profile、session、state、CDP 附着、headed 等參數。示意命令(README 原文):
node mcp/browser-launcher.mjs # → agent-browser mcp --tools core [--profile X] [--session Y] [--state Z] [--cdp ...] [--headed]
Web 通道相關設置變更在下一次 MCP 重啓後生效;設置頁會說明這一點。
架構要點¶
Cordis bundle 中 MCP 車道由 index.js 進程內掛載(ctx.plugin(<bridge>, …)),bundle patch 無絕對路徑、無 npx 子進程,與從市場安裝或從目錄 install_bundle 開發安裝行爲一致。
環境與權限要求¶
使用前請確認以下條件(均來自 README):
- DSH 宿主須以管理員身份運行(Run as administrator)。 引擎交互租約位於
C:\ProgramData\agent-desktop\<user-SID>\interaction.lock;非提升的中等完整性令牌會校驗失敗(lease_directory_untrusted),適配層會提示以管理員運行 AryaCode。 - 無障礙權限:
desktop_status中accessibility應爲granted。 - 引擎狀態目錄:默認使用
~/.agent-desktop;不要將AGENT_DESKTOP_HOME指向%LOCALAPPDATA%(會觸發引擎私有 DACL 檢查失敗)。 - Node:
>=18;DSH:>=0.2.1-rc.3 <0.3.0-0(見package.json)。
插件能力隨當前 DSH/AryaCode 進程權限與無障礙授權而行;安裝前建議在 GitHub 倉庫覈對源碼與 LICENSE(MIT)及 NOTICE.md 中的引擎許可說明。
安裝與啓用¶
從插件市場安裝(推薦)¶
- 在 AryaCode 中打開 Plugins → Arya Plugin Market → add a source,粘貼市場索引 URL:
https://cdn.jsdelivr.net/gh/KonnectSuite/dsh-arya-computer-use@main/index.json
- 在列表中安裝 Arya Computer Use,然後重啓 AryaCode。
首次從市場安裝時,插件會向市場註冊上述源(保留已有源);npm staged 發佈通過後,新版本會出現在市場中。
開發目錄安裝¶
在 plugin_manager 中對本倉庫目錄執行 install_bundle。bundle 爲單行 arya-computer-use,MCP 仍爲進程內掛載,與市場安裝行爲一致。
資料中未提供 dsh plugin add github:... 類 CLI 安裝語句,請勿自行拼接。
設置項概覽¶
路徑:Settings → Plugins → Computer Use。常用項(默認值以 README 表格爲準):
| 設置 | 默認 | 含義摘要 |
|---|---|---|
| Frame the app window | on | 僅描邊被驅動窗口與橫幅 |
| Show a ghost cursor | on | 顯示合成光標 |
| Agent name | Arya |
1–16 字符,影響幽靈光標與進度標題 |
| Banner text | Arya is controlling your computer |
橫幅單行,1–120 字符 |
| Real mouse and keyboard | off | 按會話可選真實鍵鼠;session_end 釋放,5 分鐘過期;文本優先用 set_value |
| One conversation drives at a time | on | 單次僅一會話可驅動桌面 |
| Stop shortcut | Esc | 全局中止 |
| Tool preset | lite |
lite 列出 16 工具;lazy 按需展開 |
| Tool surface (web) | core |
agent-browser 工具配置檔 |
| Chrome profile / Session | – / arya |
瀏覽器登錄態與會話名 |
| Connect to my browser | – | CDP 端口或 URL |
| Show the browser window | off | Web 通道 --headed |
典型用法思路¶
- 管理員啓動 AryaCode,確認無障礙已授予,在插件市場完成安裝並重啓。
- 在設置中按需開啓窗口描邊、幽靈光標;若僅需填表字段,在對話中引導智能體使用
set_value而非默認物理輸入的type。 - 桌面操作:智能體通過 MCP 調用
snapshot/find/click等;用戶可隨時按 Esc 停止。 - 瀏覽器自動化:在設置中配置 Web 工具面、
core等 profile、可選 CDP 附着或保存的 sign-in state;變更後重啓 MCP 車道。 - 倉庫內
skills/arya-desktop/提供 observe-act 循環指引,可供智能體技能引用。
適用場景與注意¶
適合:需要在 DSH/AryaCode 內以語義化 UIA ref 驅動 Windows 原生應用,並希望有可見接管反饋與單會話驅動鎖的開發者;同時需要與 agent-browser 統一的 Web 自動化通道時,可在同一 bundle 內配置(Web 完善項仍見路線圖 Phase 3)。
注意:
- 僅面向 Windows 桌面引擎路徑;宿主必須提升權限,否則租約校驗失敗。
- 與像素方案相比,依賴無障礙樹質量;部分自繪 UI 可能樹不完整。
- 社區目錄 skillhub.cn 插件頁 爲獨立收錄站點,與 DeepSeek / 幻方無官方從屬關係;以 KonnectSuite GitHub 與 npm 發佈爲準。
結尾¶
Arya Computer Use 將 DSH 上的「電腦使用」從 wincu 遷到 agent-desktop UIA 引擎,並用接管 UI 標明智能體操作邊界。安裝走 Arya Plugin Market 與上述 index.json 源即可。
- 目錄頁:https://www.skillhub.cn/plugins/KonnectSuite/dsh-arya-computer-use
- 源碼與文檔:https://github.com/KonnectSuite/dsh-arya-computer-use