前言¶
在 DeepSeek Harness(DSH)裏給 agent 佈置任務時,常見做法是接瀏覽器插件或 API,讓模型去查網頁、調接口。若任務落在本機程序上——記事本、計算器、已打開的 Edge、網易雲音樂——模型既看不到窗口,也點不了按鈕。Windows 上雖有 UI Automation(UIA)等系統能力,但要自己拼截圖、OCR、輸入與窗口管理,再接到 MCP 或 DSH 插件體系,工作量不小。
下面介紹社區插件 dsh-computer-use(維護者 hisence999):面向 Windows,走 純桌面操控(不單獨開瀏覽器自動化通道;瀏覽器窗口按普通桌面窗口處理)。它把觀察界面、定位控件、點擊輸入、確認結果串成 agent 可用的工具集,並接入 DSH Desktop 的設置頁與對話裏的操作記錄。
這是什麼¶
dsh-computer-use 是 DeepSeek Harness 的 客戶端 類插件:通過 MCP stdio 服務 + 常駐 PowerShell 後端(scripts/windows-uia.ps1),讀取真實 Windows 程序與窗口,執行點擊、打字、窗口切換等操作。npm 包名與插件 ID 均爲 dsh-computer-use,當前資料中的版本爲 0.6.0,許可證 MIT。
一句話定位:讓 DSH 裏的 agent 看到並操作你電腦上真實的 Windows 程序和窗口——找按鈕和輸入框、讀屏幕文字、點擊與輸入、切換和管理窗口;用到鼠標鍵盤時有明顯提示,按 Esc 可隨時停止。
核心功能¶
資料中可覈對的能力如下。
觀察與定位¶
- 列出打開的窗口,通過 UI Automation(UIA) 查找控件及名稱。
- 截圖 + Windows 自帶 OCR 識別界面文字與位置;控件樹信息不足時,查找會自動改用 OCR。
執行與確認¶
- 優先在後臺直接操作控件(按按鈕、填內容、滾動等),儘量不動鼠標、不搶前臺。
- 必須用座標點擊、粘貼、按鍵時,臨時借用前臺,完成後歸還鼠標與前臺窗口。
- agent 按 觀察 → 定位 → 執行 → 確認 循環推進;輸入類操作返回「已發送」,只有等到預期窗口、控件或文字出現才視爲「已確認」。佈置任務時宜寫清要確認什麼。
工具規模與界面¶
- 24 個桌面工具 + 1 個管理入口(設置裏默認方案爲「全部」,共 25 個工具)。
- DSH Desktop 中:設置 → 電腦操控(鼠標圖標)可配置工具加載方案、接管提示、停止快捷鍵等;對話裏每一步桌面操作會顯示爲帶鼠標圖標的可讀記錄,可查看步驟與截圖。
架構要點(便於排查問題)¶
- 插件適配器運行在 DSH 內;MCP 服務經官方 MCP 橋以 stdio 連到
mcp/server.mjs。 - PowerShell 後端常駐,請求排隊、一次只執行一個,避免併發搶鼠標鍵盤。
- 接管助手(
scripts/windows-takeover.ps1)獨立監聽 Esc,後端正忙時也能停止未開始或進行中的輸入。
瀏覽器窗口不另開專用通道:與操作其他桌面程序一樣,讀控件、截圖 OCR,再點擊輸入。
安裝與啓用¶
環境要求:Windows,已安裝 DSH Desktop。插件使用 Windows 自帶的 PowerShell 5.1,無需額外安裝。DSH Desktop 自帶運行環境;若僅在 DSH Web 或獨立 MCP 客戶端中使用,需本機 Node.js 22 或更高。
DSH Desktop(推薦)¶
- 右鍵任務欄托盤裏的 DSH 圖標,選「打開 DSH 終端」,執行:
dsh plugin --profile desktop add dsh-computer-use
-
再右鍵托盤圖標選「退出」,然後重新打開 DSH Desktop。只關窗口不夠:DSH 仍在托盤運行時不會加載新插件。
-
打開 設置 → 電腦操控 查看選項;默認加載全部工具即可。然後給 agent 佈置桌面任務。
升級時運行同一條安裝命令,再完全退出並重新打開 DSH Desktop。命令裏的 desktop 是 DSH Desktop 使用的 profile;裝到其他 profile 時,當前 Desktop 不會出現變化。
其他安裝方式(摘自 README)¶
DSH Web:
dsh plugin --profile web add dsh-computer-use
裝好後重啓 dsh web。也可在插件市場搜索 dsh-computer-use,或從 GitHub 安裝:
dsh plugin --profile desktop add github:hisence999/dsh-computer-use
獨立 MCP 客戶端示例(不在 DSH 內時):
{
"mcpServers": {
"dcu": {
"command": "npx",
"args": ["-y", "dsh-computer-use"]
}
}
}
單獨運行時可用環境變量控制工具加載:DCU_TOOL_MODE=lite(常用工具)、DCU_TOOL_MODE=lazy(先只加載管理入口),或在 DCU_ENABLED_TOOLS 中指定 JSON 數組。設置頁、對話操作記錄與整輪提示僅在 DSH 內完整提供。
典型用法¶
README 中的任務示例可直接複用;寫清「要確認什麼」,agent 纔會做結果檢查,而不是隻發出輸入。
在記事本中輸入「會議紀要」,再讀取文本確認寫入成功。
在已打開的計算器中計算 25 × 4,並讀取結果。
打開瀏覽器,搜索「Windows UI Automation」,確認出現搜索結果,並總結你做了什麼。
打開網易雲音樂,搜索「晴天」,確認結果頁出現「周杰倫」。如果無障礙樹看不到搜索框,用 OCR 定位可見文字。
對話裏常見記錄包括「輸入了文本」「發送了按鍵」「檢查了操作結果」等;狀態可能爲「已完成」「操作已發送,效果待確認」「未完成」或「已停止」。
適用場景與注意¶
適合誰:已在用 DSH Desktop(或 DSH Web / 獨立 MCP 客戶端)、需要在 本機 Windows 桌面 上自動化或輔助操作原生程序、且能接受 agent 在受控提示下使用鼠標鍵盤的用戶。
設置與停止:工具加載可選全部、精簡(11 個常用)、懶啓動或自定義;屏幕邊緣光暈與「DSH 正在控制電腦」提示條、鼠標旁 DSH 標籤可分別開關。Esc 默認可停止當前輪桌面操作,也可錄製額外快捷鍵。同一時間只有一段對話能操作桌面,其他對話會收到「忙碌」結果。
權限與安全:插件以 當前 DSH 進程權限 運行,能操作你賬戶下可見的窗口與輸入。安裝前應閱讀 源碼 與 MIT 許可證,並理解已發給程序的操作無法撤回、程序無響應時需等待等情況。數據與隱私說明見倉庫文檔「數據與隱私」一節。
DSH 生態強調「一切皆插件」;社區目錄站點 SkillHub 插件頁 與 GitHub 倉庫由社區維護,與 DeepSeek / 幻方無官方從屬關係。
結尾¶
dsh-computer-use 把 Windows UIA、OCR、截圖與輸入封裝成 DSH 可用的桌面工具鏈,並在 Desktop 裏提供設置、步驟記錄與 Esc 停止,適合把「打開本機程序、點界面、讀結果」類任務交給 agent。經過上面的步驟裝好插件並重啓 DSH Desktop 後,可從簡單記事本或計算器任務試起。
- 目錄頁:https://www.skillhub.cn/plugins/hisence999/dsh-computer-use
- GitHub:https://github.com/hisence999/dsh-computer-use
- npm:https://www.npmjs.com/package/dsh-computer-use