dsh-computer-use:让 DSH Agent 看见并操作 Windows 桌面

前言

在 DeepSeek Harness(DSH)里给 agent 布置任务时,常见做法是接浏览器插件或 API,让模型去查网页、调接口。若任务落在本机程序上——记事本、计算器、已打开的 Edge、网易云音乐——模型既看不到窗口,也点不了按钮。Windows 上虽有 UI Automation(UIA)等系统能力,但要自己拼截图、OCR、输入与窗口管理,再接到 MCP 或 DSH 插件体系,工作量不小。

下面介绍社区插件 dsh-computer-use(维护者 hisence999):面向 Windows,走 纯桌面操控(不单独开浏览器自动化通道;浏览器窗口按普通桌面窗口处理)。它把观察界面、定位控件、点击输入、确认结果串成 agent 可用的工具集,并接入 DSH Desktop 的设置页与对话里的操作记录。

这是什么

dsh-computer-use 是 DeepSeek Harness 的 客户端 类插件:通过 MCP stdio 服务 + 常驻 PowerShell 后端(scripts/windows-uia.ps1),读取真实 Windows 程序与窗口,执行点击、打字、窗口切换等操作。npm 包名与插件 ID 均为 dsh-computer-use,当前资料中的版本为 0.6.0,许可证 MIT。

一句话定位:让 DSH 里的 agent 看到并操作你电脑上真实的 Windows 程序和窗口——找按钮和输入框、读屏幕文字、点击与输入、切换和管理窗口;用到鼠标键盘时有明显提示,按 Esc 可随时停止。

核心功能

资料中可核对的能力如下。

观察与定位

  • 列出打开的窗口,通过 UI Automation(UIA) 查找控件及名称。
  • 截图 + Windows 自带 OCR 识别界面文字与位置;控件树信息不足时,查找会自动改用 OCR。

执行与确认

  • 优先在后台直接操作控件(按按钮、填内容、滚动等),尽量不动鼠标、不抢前台。
  • 必须用坐标点击、粘贴、按键时,临时借用前台,完成后归还鼠标与前台窗口。
  • agent 按 观察 → 定位 → 执行 → 确认 循环推进;输入类操作返回「已发送」,只有等到预期窗口、控件或文字出现才视为「已确认」。布置任务时宜写清要确认什么。

工具规模与界面

  • 24 个桌面工具 + 1 个管理入口(设置里默认方案为「全部」,共 25 个工具)。
  • DSH Desktop 中:设置 → 电脑操控(鼠标图标)可配置工具加载方案、接管提示、停止快捷键等;对话里每一步桌面操作会显示为带鼠标图标的可读记录,可查看步骤与截图。

架构要点(便于排查问题)

  • 插件适配器运行在 DSH 内;MCP 服务经官方 MCP 桥以 stdio 连到 mcp/server.mjs。
  • PowerShell 后端常驻,请求排队、一次只执行一个,避免并发抢鼠标键盘。
  • 接管助手(scripts/windows-takeover.ps1)独立监听 Esc,后端正忙时也能停止未开始或进行中的输入。

浏览器窗口不另开专用通道:与操作其他桌面程序一样,读控件、截图 OCR,再点击输入。

安装与启用

环境要求:Windows,已安装 DSH Desktop。插件使用 Windows 自带的 PowerShell 5.1,无需额外安装。DSH Desktop 自带运行环境;若仅在 DSH Web 或独立 MCP 客户端中使用,需本机 Node.js 22 或更高。

DSH Desktop(推荐)

  1. 右键任务栏托盘里的 DSH 图标,选「打开 DSH 终端」,执行:
dsh plugin --profile desktop add dsh-computer-use
  1. 再右键托盘图标选「退出」,然后重新打开 DSH Desktop。只关窗口不够:DSH 仍在托盘运行时不会加载新插件。

  2. 打开 设置 → 电脑操控 查看选项;默认加载全部工具即可。然后给 agent 布置桌面任务。

升级时运行同一条安装命令,再完全退出并重新打开 DSH Desktop。命令里的 desktop 是 DSH Desktop 使用的 profile;装到其他 profile 时,当前 Desktop 不会出现变化。

其他安装方式(摘自 README)

DSH Web:

dsh plugin --profile web add dsh-computer-use

装好后重启 dsh web。也可在插件市场搜索 dsh-computer-use,或从 GitHub 安装:

dsh plugin --profile desktop add github:hisence999/dsh-computer-use

独立 MCP 客户端示例(不在 DSH 内时):

{
  "mcpServers": {
    "dcu": {
      "command": "npx",
      "args": ["-y", "dsh-computer-use"]
    }
  }
}

单独运行时可用环境变量控制工具加载:DCU_TOOL_MODE=lite(常用工具)、DCU_TOOL_MODE=lazy(先只加载管理入口),或在 DCU_ENABLED_TOOLS 中指定 JSON 数组。设置页、对话操作记录与整轮提示仅在 DSH 内完整提供。

典型用法

README 中的任务示例可直接复用;写清「要确认什么」,agent 才会做结果检查,而不是只发出输入。

在记事本中输入「会议纪要」,再读取文本确认写入成功。

在已打开的计算器中计算 25 × 4,并读取结果。

打开浏览器,搜索「Windows UI Automation」,确认出现搜索结果,并总结你做了什么。

打开网易云音乐,搜索「晴天」,确认结果页出现「周杰伦」。如果无障碍树看不到搜索框,用 OCR 定位可见文字。

对话里常见记录包括「输入了文本」「发送了按键」「检查了操作结果」等;状态可能为「已完成」「操作已发送,效果待确认」「未完成」或「已停止」。

适用场景与注意

适合谁:已在用 DSH Desktop(或 DSH Web / 独立 MCP 客户端)、需要在 本机 Windows 桌面 上自动化或辅助操作原生程序、且能接受 agent 在受控提示下使用鼠标键盘的用户。

设置与停止:工具加载可选全部、精简(11 个常用)、懒启动或自定义;屏幕边缘光晕与「DSH 正在控制电脑」提示条、鼠标旁 DSH 标签可分别开关。Esc 默认可停止当前轮桌面操作,也可录制额外快捷键。同一时间只有一段对话能操作桌面,其他对话会收到「忙碌」结果。

权限与安全:插件以 当前 DSH 进程权限 运行,能操作你账户下可见的窗口与输入。安装前应阅读 源码 与 MIT 许可证,并理解已发给程序的操作无法撤回、程序无响应时需等待等情况。数据与隐私说明见仓库文档「数据与隐私」一节。

DSH 生态强调「一切皆插件」;社区目录站点 SkillHub 插件页 与 GitHub 仓库由社区维护,与 DeepSeek / 幻方无官方从属关系。

结尾

dsh-computer-use 把 Windows UIA、OCR、截图与输入封装成 DSH 可用的桌面工具链,并在 Desktop 里提供设置、步骤记录与 Esc 停止,适合把「打开本机程序、点界面、读结果」类任务交给 agent。经过上面的步骤装好插件并重启 DSH Desktop 后,可从简单记事本或计算器任务试起。

  • 目录页:https://www.skillhub.cn/plugins/hisence999/dsh-computer-use
  • GitHub:https://github.com/hisence999/dsh-computer-use
  • npm:https://www.npmjs.com/package/dsh-computer-use
羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜