dsh-computer-use-win:爲 DSH 增加 Windows 桌面觀察與操作能力

前言

DSH 的理念是“一切皆插件”,社區目錄是獨立站點,與 DeepSeek / 幻方無官方從屬關係。對使用 DSH 的開發者來說,如果希望 agent 參與真實 Windows 桌面操作,需要補齊三類能力:讀取窗口結構、執行輸入動作、處理窗口狀態。下面介紹 dsh-computer-use-win,它把 Windows computer use 能力做成 DSH 插件。

這是什麼

dsh-computer-use-win 是 Yu-tao-Li 維護的 Windows computer use 插件,核心是 MCP stdio 服務器和 PowerShell/UIA 桌面引擎,對外提供 22 個桌面工具。它解決的是 DSH agent 在 Windows 上如何看控件、看截圖、執行鼠標鍵盤操作並管理窗口的問題。

核心能力

觀察能力

  • 提供 UIA 無障礙樹三視圖:control、content、raw。
  • 支持按 name、automationId、類名、值查找控件。
  • 截圖採用三級鏈:PrintWindow、WGC、屏幕區域兜底。
  • OCR 回退時會返回逐詞屏幕座標詞框;對 CJK 按字符給詞框。

動作與窗口能力

  • 鼠標操作。
  • 鍵盤輸入。
  • UIA 語義動作。
  • 窗口管理。

後端與安全

  • 使用持久化 PowerShell 後端,協議爲 JSON 行協議。
  • 內置安全機制包括:座標 homing、急停 failsafe、identity guard、前臺校驗、Win 鍵黑名單。

安裝與啓用

先確認環境:僅支持 Windows,並要求 Node >=22。

安裝命令如下:

dsh plugin --profile web add github:Yu-tao-Li/dsh-computer-use-win

這條命令將插件加入 web profile。完成安裝後,重啓 dsh web,工具會以 mcp__wincu__windows_computer_use_* 形式出現。

注意:同一 profile 只保留一個 serverName: wincu 行。

典型用法

經過上面的安裝步驟後,可以用倉庫內命令做本地驗證:

node mcp/server.mjs --self-test
node test/mcp-test.mjs
node test/notepad-e2e.mjs

這三條命令分別用於自檢、MCP 測試和 Notepad E2E 測試。

適用場景與注意

適合在 Windows 上開發 DSH 工作流、需要 agent 讀取桌面控件並執行輸入的人。許可證爲 MIT。

使用前注意以下限制:

  • 僅支持 Windows。
  • 需要 Node >=22。
  • 本項目是 cgissing/windows-computer-use(MIT)的衍生作品,上游版權聲明保留於 THIRD_PARTY.md。
  • WinUI、Chromium、Electron 會丟棄 PostMessage 合成輸入;verified:false 是誠實上報,不是成功。
  • 提權窗口(UAC/管理員程序)的 UIA 與合成輸入會被 Windows 攔截,讀不到也點不了。
  • 座標以物理像素爲準,使用顯式 Per-Monitor V2 DPI。
  • OCR 對 CJK 按字符給詞框。
  • 插件以當前 dsh 進程權限運行,安裝前應檢查源碼和許可證。

鏈接

GitHub:

https://github.com/Yu-tao-Li/dsh-computer-use-win

插件線索給出的目錄頁:

https://www.skillhub.cn/plugins/Yu-tao-Li/dsh-computer-use-win

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜