前言¶
DSH 的理念是“一切皆插件”,社區目錄是獨立站點,與 DeepSeek / 幻方無官方從屬關係。對使用 DSH 的開發者來說,如果希望 agent 參與真實 Windows 桌面操作,需要補齊三類能力:讀取窗口結構、執行輸入動作、處理窗口狀態。下面介紹 dsh-computer-use-win,它把 Windows computer use 能力做成 DSH 插件。
這是什麼¶
dsh-computer-use-win 是 Yu-tao-Li 維護的 Windows computer use 插件,核心是 MCP stdio 服務器和 PowerShell/UIA 桌面引擎,對外提供 22 個桌面工具。它解決的是 DSH agent 在 Windows 上如何看控件、看截圖、執行鼠標鍵盤操作並管理窗口的問題。
核心能力¶
觀察能力¶
- 提供 UIA 無障礙樹三視圖:
control、content、raw。 - 支持按
name、automationId、類名、值查找控件。 - 截圖採用三級鏈:
PrintWindow、WGC、屏幕區域兜底。 - OCR 回退時會返回逐詞屏幕座標詞框;對 CJK 按字符給詞框。
動作與窗口能力¶
- 鼠標操作。
- 鍵盤輸入。
- UIA 語義動作。
- 窗口管理。
後端與安全¶
- 使用持久化 PowerShell 後端,協議爲 JSON 行協議。
- 內置安全機制包括:座標 homing、急停 failsafe、identity guard、前臺校驗、Win 鍵黑名單。
安裝與啓用¶
先確認環境:僅支持 Windows,並要求 Node >=22。
安裝命令如下:
dsh plugin --profile web add github:Yu-tao-Li/dsh-computer-use-win
這條命令將插件加入 web profile。完成安裝後,重啓 dsh web,工具會以 mcp__wincu__windows_computer_use_* 形式出現。
注意:同一 profile 只保留一個 serverName: wincu 行。
典型用法¶
經過上面的安裝步驟後,可以用倉庫內命令做本地驗證:
node mcp/server.mjs --self-test
node test/mcp-test.mjs
node test/notepad-e2e.mjs
這三條命令分別用於自檢、MCP 測試和 Notepad E2E 測試。
適用場景與注意¶
適合在 Windows 上開發 DSH 工作流、需要 agent 讀取桌面控件並執行輸入的人。許可證爲 MIT。
使用前注意以下限制:
- 僅支持 Windows。
- 需要
Node >=22。 - 本項目是
cgissing/windows-computer-use(MIT)的衍生作品,上游版權聲明保留於THIRD_PARTY.md。 WinUI、Chromium、Electron會丟棄PostMessage合成輸入;verified:false是誠實上報,不是成功。- 提權窗口(UAC/管理員程序)的 UIA 與合成輸入會被 Windows 攔截,讀不到也點不了。
- 座標以物理像素爲準,使用顯式 Per-Monitor V2 DPI。
- OCR 對 CJK 按字符給詞框。
- 插件以當前
dsh進程權限運行,安裝前應檢查源碼和許可證。
鏈接¶
GitHub:
https://github.com/Yu-tao-Li/dsh-computer-use-win
插件線索給出的目錄頁:
https://www.skillhub.cn/plugins/Yu-tao-Li/dsh-computer-use-win