dsh-vision-android:DeepSeek Harness 视觉理解与 Android UI 自动化插件

前言

在 DSH 的插件机制下,可以给智能体补充工具能力。常见需求有两个:一是需要把本地截图或图片交给视觉模型理解;二是需要 agent 在 Android 应用中完成真实点击、滑动、输入和按键验证。

dsh-vision-android 就是围绕这两个需求写的 DeepSeek Harness 插件:一边把本地图片文件发给视觉模型提问,一边通过 adb 执行 Android UI 操作。

这是什么

dsh-vision-android 是一个 DeepSeek Harness 插件,定位是“多模态视觉 + Android UI 自动化”。

它提供 11 个工具,覆盖图片提问、截屏、屏幕理解、UI 层级抓取、真实点击、滑动、文本输入、按键、APK 安装、应用启动和屏幕尺寸查询。项目许可证为 MIT,GitHub 仓库为 https://github.com/superclaude1/dsh-vision-android 。

核心功能

下面按能力分组说明。

视觉理解

  • vision_ask:把本地图片文件发给视觉模型提问。
  • mobile_look:截屏并进行视觉理解,返回屏幕描述和可交互元素坐标。
  • mobile_screenshot:只截屏保存 PNG,并返回文件路径。
  • mobile_screen_size:获取屏幕物理分辨率。

Android UI 自动化

  • mobile_dump:通过 uiautomator 抓取 UI 层级坐标。
  • mobile_tap:通过 adb 真实点击指定坐标。
  • mobile_swipe:通过 adb 执行真实滑动手势。
  • mobile_text:输入 ASCII 文本;空格会自动转义。
  • mobile_keyevent:发送 backhomeentertabescdpad_* 等按键。
  • mobile_install:使用 adb install -r 安装 APK。
  • mobile_launch:通过 am start 启动组件,或使用 monkey 启动包。

安装与启用

安装进 web profile 的命令是:

dsh plugin --profile web add ./dsh-vision-android

启用时,机器私密配置建议放在 $DSH_HOME/cordis.patch.yml,或放在 profile 自己的 patch 里。

visionApiKey 推荐用环境变量,不要写进配置;不要把 Key 写进仓库。

典型用法

一个可复现的模型对话示例是:

请打开诡秘之主这本书:先 mobile_look 看当前界面,找到这本书的坐标,用 mobile_tap 点击,再 mobile_look 确认进入了目录页。

执行顺序可以理解为:

1、调用 mobile_look 获取当前界面描述和元素坐标。
2、根据返回坐标调用 mobile_tap 点击。
3、再次调用 mobile_look 验证是否进入目录页。

这样形成“截图 → 视觉理解 → 真实点击 → 再截图验证”的闭环。

如果某个坐标很关键,可以先用 mobile_dump 抓取 UI 层级坐标,再和视觉返回的坐标做交叉验证。

适用场景与注意

适合两类工作:需要让智能体读取截图或图片;需要在 Android 应用中做 UI 操作验证。

使用前注意:

  • 插件会以当前 dsh 进程权限运行。安装前建议先检查源码与许可证。
  • 许可证为 MIT。
  • mobile_text 仅支持 ASCII;中文输入需要设备 IME;空格已自动转义为 %s
  • 视觉坐标是像素值;mobile_dump 的坐标永远精确,视觉坐标偶有偏差,重要点击前可先用 mobile_dump 校验。
  • 视觉模型可能把系统软键盘等非应用 UI 误读为应用元素;关键操作前用 mobile_dump 交叉验证。
  • visionApiKey 推荐用环境变量,不要把 Key 写进仓库。

结尾

dsh-vision-android 的价值在于把“看屏幕”和“真实操作设备”接到 DSH 的智能体流程里:先让模型理解界面,再用 adb 执行操作,最后再次截图验证。

GitHub 仓库:https://github.com/superclaude1/dsh-vision-android 。

社区目录页地址未在本次资料中提供,可按插件名 dsh-vision-android 在社区目录中检索。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye