前言¶
DeepSeek v4 系列模型目前僅支持文本輸入。如果用戶在對話中粘貼截圖或照片,模型無法直接理解圖像內容。dsh-vision-plugin 的作用是作爲中間層:它將圖像先發送給視覺模型(如 qwen3.7-plus, kimi-k3 等),將圖像轉錄爲文本,再將文本傳遞給主模型進行回答。這能讓文本模型“看”到圖片,並進行自然的交互。
身份信息¶
- 名稱:dsh-vision-plugin
- 核心價值:爲 DeepSeek Harness 的文本模型提供視覺分析能力。
- 所有者:Xin-Zhang-IceMan
- 分類:模型推理
- 許可證:MIT License
安裝¶
安裝該插件會將它註冊到當前的 DSH 配置中,隨 DSH 啓動自動加載。
dsh plugin --profile web add dsh-vision-plugin
配置¶
在圖片能被處理之前,需要在配置文件中聲明當前模型支持圖像輸入。配置文件位於 ~/.dsh/settings.yaml,修改後支持熱重載,無需重啓。
以下示例聲明 deepseek-v4-flash 和 deepseek-v4-pro 可以接收圖片:
llm-pi-ai:
providers:
opencode-go:
apiKeyEnv: OPENCODE_GO_API_KEY
modelOverrides:
deepseek-v4-flash:
input: [text, image]
deepseek-v4-pro:
input: [text, image]
對於 DSH v0.1.0-rc.8+ 版本,內置的 deepseek-official 路由支持原生 Vision,模型需在 llm-deepseek 配置下聲明 inputModalities,插件會自動識別。
核心功能¶
- 粘貼圖片並提問:直接將圖片粘貼到聊天窗口,切換到任意文本模型,即可詢問圖片內容。
- vision_analyze 工具:模型可以通過調用工具直接分析本地圖片文件,支持傳入可選的問題和指定的視覺模型。
- 設置頁面:DSH 設置面板中新增“Vision Model”頁面,用於管理默認的視覺模型,支持中英雙語切換。
典型用法¶
場景一:對話中分析圖片¶
在對話窗口中粘貼一張圖片(例如 Clash Verge 的 Logo),切換到 deepseek-v4 等文本模型,輸入問題“這是什麼?”。插件會自動調用視覺模型轉錄圖片內容,主模型根據轉錄結果進行回答。
場景二:工具調用分析¶
在對話中要求模型分析表格或代碼截圖,模型會自動調用 vision_analyze 工具。該工具接受本地圖片路徑、可選的提問以及可選的視覺模型覆蓋參數。
注意事項¶
- 版本依賴:插件與 dsh v0.1.0-rc.8 及以上版本兼容,支持原生 Vision 路由。
- 配置生效:如果切換到未在
settings.yaml中聲明圖像能力的模型,粘貼圖片可能會被拒絕。請確保所有可能使用的文本模型都已聲明input: [text, image]。 - 狀態持久化:設置頁面中的視覺模型選擇保存在瀏覽器的
localStorage中,重啓 DSH 後會自動恢復。 - 語言跟隨:設置頁面的 UI 語言會跟隨 DSH 的全局語言設置(中文或英文)。
生態鏈接¶
- GitHub 倉庫:https://github.com/Xin-Zhang-IceMan/dsh-vision-plugin
- 插件目錄:https://www.skillhub.cn/plugins/Xin-Zhang-IceMan/dsh-vision-plugin