dsh-vision-android:DeepSeek Harness 視覺理解與 Android UI 自動化插件

前言

在 DSH 的插件機制下,可以給智能體補充工具能力。常見需求有兩個:一是需要把本地截圖或圖片交給視覺模型理解;二是需要 agent 在 Android 應用中完成真實點擊、滑動、輸入和按鍵驗證。

dsh-vision-android 就是圍繞這兩個需求寫的 DeepSeek Harness 插件:一邊把本地圖片文件發給視覺模型提問,一邊通過 adb 執行 Android UI 操作。

這是什麼

dsh-vision-android 是一個 DeepSeek Harness 插件,定位是“多模態視覺 + Android UI 自動化”。

它提供 11 個工具,覆蓋圖片提問、截屏、屏幕理解、UI 層級抓取、真實點擊、滑動、文本輸入、按鍵、APK 安裝、應用啓動和屏幕尺寸查詢。項目許可證爲 MIT,GitHub 倉庫爲 https://github.com/superclaude1/dsh-vision-android 。

核心功能

下面按能力分組說明。

視覺理解

  • vision_ask:把本地圖片文件發給視覺模型提問。
  • mobile_look:截屏並進行視覺理解,返回屏幕描述和可交互元素座標。
  • mobile_screenshot:只截屏保存 PNG,並返回文件路徑。
  • mobile_screen_size:獲取屏幕物理分辨率。

Android UI 自動化

  • mobile_dump:通過 uiautomator 抓取 UI 層級座標。
  • mobile_tap:通過 adb 真實點擊指定座標。
  • mobile_swipe:通過 adb 執行真實滑動手勢。
  • mobile_text:輸入 ASCII 文本;空格會自動轉義。
  • mobile_keyevent:發送 back、home、enter、tab、esc、dpad_* 等按鍵。
  • mobile_install:使用 adb install -r 安裝 APK。
  • mobile_launch:通過 am start 啓動組件,或使用 monkey 啓動包。

安裝與啓用

安裝進 web profile 的命令是:

dsh plugin --profile web add ./dsh-vision-android

啓用時,機器私密配置建議放在 $DSH_HOME/cordis.patch.yml,或放在 profile 自己的 patch 裏。

visionApiKey 推薦用環境變量,不要寫進配置;不要把 Key 寫進倉庫。

典型用法

一個可復現的模型對話示例是:

請打開詭祕之主這本書:先 mobile_look 看當前界面,找到這本書的座標,用 mobile_tap 點擊,再 mobile_look 確認進入了目錄頁。

執行順序可以理解爲:

1、調用 mobile_look 獲取當前界面描述和元素座標。
2、根據返回座標調用 mobile_tap 點擊。
3、再次調用 mobile_look 驗證是否進入目錄頁。

這樣形成“截圖 → 視覺理解 → 真實點擊 → 再截圖驗證”的閉環。

如果某個座標很關鍵,可以先用 mobile_dump 抓取 UI 層級座標,再和視覺返回的座標做交叉驗證。

適用場景與注意

適合兩類工作:需要讓智能體讀取截圖或圖片;需要在 Android 應用中做 UI 操作驗證。

使用前注意:

  • 插件會以當前 dsh 進程權限運行。安裝前建議先檢查源碼與許可證。
  • 許可證爲 MIT。
  • mobile_text 僅支持 ASCII;中文輸入需要設備 IME;空格已自動轉義爲 %s。
  • 視覺座標是像素值;mobile_dump 的座標永遠精確,視覺座標偶有偏差,重要點擊前可先用 mobile_dump 校驗。
  • 視覺模型可能把系統軟鍵盤等非應用 UI 誤讀爲應用元素;關鍵操作前用 mobile_dump 交叉驗證。
  • visionApiKey 推薦用環境變量,不要把 Key 寫進倉庫。

結尾

dsh-vision-android 的價值在於把“看屏幕”和“真實操作設備”接到 DSH 的智能體流程裏:先讓模型理解界面,再用 adb 執行操作,最後再次截圖驗證。

GitHub 倉庫:https://github.com/superclaude1/dsh-vision-android 。

社區目錄頁地址未在本次資料中提供,可按插件名 dsh-vision-android 在社區目錄中檢索。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜