dsh-video-vision:在 DSH 里让 AI 直接看视频

前言

在 DSH 里讨论教程、演示或音乐视频时,常见做法是先把视频下载到本地,再手动截帧或上传片段给模型。步骤多、进度难接续,平台字幕和音轨也往往要单独处理。DeepSeek Harness 社区插件 dsh-video-vision(维护者 Tests4gptplay,分类:联网工具)把「发链接 → 取画面与音频 → 按时间细看 → 字幕/转写/卡点分析」收进同一套工具,当前版本 0.9.1,许可证 MIT。

这是什么

dsh-video-vision 让 DSH 中的 AI 结合画面、声音和歌词理解视频:支持 B 站、YouTube 等在线链接、带时间戳的画面、平台字幕、本地语音识别转写,以及原生缓存与观看进度管理。画面通过 DSH 原生图片附件交给支持工具调用与图片输入的模型;音频默认先分析最多 30 秒,可按区间继续扩展。

项目地址:GitHub · 目录页:skillhub.cn

视频来源与解析方式

  1. Bilibili:视频链接、BV 号、b23.tv 短链和分 P,走内置接口。
  2. YouTube 与其他站点:优先复用已保存的站点解析方法;新站点时 AI 可按插件指导用宿主网页与脚本探索,跑通后保存为扩展。
  3. 备用解析器:保留 yt-dlp,配置 resolver: "yt-dlp" 可处理 YouTube、Vimeo、Dailymotion 等;上游站点列表见 yt-dlp supportedsites。yt-dlp 路径始终匿名,不接收 Cookie 或浏览器登录态。
  4. 媒体直链与本地文件:HTTP(S) 媒体链接及本地视频文件(在扩展或 yt-dlp 可读范围内)。

登录会话通过本机「浏览器登录态导入」复用;网络代理可在配置里设置 proxy。直播请使用已结束的回放链接。

核心能力

  • 链接直接观看:发送 URL 即可获取全片画面概览与一段音频分析/转写。
  • 按时间细看:指定区间或时间点查看动作、界面与屏幕文字;省略起点时可从上次进度继续。
  • 字幕与转写:读取平台字幕(人工优先于自动);对白/歌词可用 DSH 语音识别器按最多约 15 秒窗口转写,重复观看复用缓存。
  • 音频与卡点:分析片段返回可播放 WAV、电平、停顿、起音与 tempo(BPM 估计);与 prominent_onsets_seconds 一起辅助选剪辑点。
  • 本地缓存:已打开的视频与帧可重复使用;设置页可查看占用、搜索、跳转原链、提取或删除条目。
  • 方法积累:在配置目录保存站点解析扩展与实践笔记,下次直接复用。

默认每批约 6 张画面,上限 12 张;快速变化的内容可缩短时间区间并增加帧数。

插件对外提供 video_vision 工具,主要 action 包括:open、watch、transcript、transcribe、audio、status、methods(详见 README 工具表)。

安装与启用

使用固定版本来源安装或升级至 v0.9.1。

DSH Desktop:打开 插件 → 添加插件,粘贴:

github:Tests4gptplay/dsh-video-vision#v0.9.1

Web 版:

dsh plugin --profile web add 'github:Tests4gptplay/dsh-video-vision#v0.9.1'

Web 与 Desktop 需分别安装。GitHub Releases 另提供备用 .tgz 包。安装并启用 video-vision 后,重新加载插件或重启 DSH,在新请求中发送视频链接即可。

运行依赖

  • Node.js 22+(可用 DSH 自带版本)。
  • FFmpeg / ffprobe:加入 PATH,或在插件配置中填写 ffmpegPath、ffprobePath。
  • yt-dlp:仅在选择备用解析器时需要;插件可自动下载官方版本至 .dsh/tools/dsh-video-vision,也可用 ytDlpPath 指定已有安装。B 站内置方式、本地视频与自定义站点扩展不依赖 yt-dlp。YouTube 经 yt-dlp 时 Node 路径可用 nodePath 指定。

升级时保留原插件配置与缓存目录;从早期不同包名迁移时需先记录缓存目录与工具路径,卸载旧包后再装新版,并在设置里指回原缓存目录。

典型用法

安装后选择支持工具调用与图片输入的模型,可直接对话,例如:

看一下这个视频:https://www.youtube.com/watch?v=视频ID

接着可追问:

细看 50 到 80 秒,告诉我画面怎么变化。

回到 1 分 40 秒,读一下屏幕上的代码。

结合字幕,整理这一段的操作步骤。

命令行与插件共用分析流程(需运行中 DSH 的语音服务做转写时按 README 说明操作),示例:

node bin/video-vision.mjs open --source "https://www.youtube.com/watch?v=视频ID" --resolver yt-dlp --frames 6
node bin/video-vision.mjs watch --timestamps 12,45,120
node bin/video-vision.mjs transcript

设置、会话与配置要点

在 DSH 设置 → 视频视觉 中可:导入默认浏览器登录态(默认关闭)、可选同步至 DSH 内置浏览器、设置缓存目录、管理缓存列表与提取视频、打开「方法文件夹」等。默认配置目录为 %USERPROFILE%\.dsh\video-vision(或 DSH_HOME / configDirectory)。

video-vision 条目 config 示例(字段以 README 为准):

ffmpegPath: ffmpeg
ffprobePath: ffprobe
cacheDirectory: .dsh-video-vision
maxHeight: 720
frameWidth: 1280
maxFrames: 12
maxDownloadMB: 1024
downloadTimeoutMs: 300000
processTimeoutMs: 60000
maxAudioSeconds: 60
speechProvider: sensevoice-local

转写前请在 DSH 语音设置中准备好识别器;站点扩展为本机执行的 JavaScript,应只启用自己编写或确认过的代码。

适用场景与注意

适合:一起看教程、讨论作品、分析演示过程、按时间点读屏上代码、结合字幕整理步骤、分析短段歌词或对白并找转场/卡点等。

务必知晓:插件以当前 DSH 进程权限在本机拉取与解码媒体;安装前应自行查看 源码与 MIT 许可证,并理解登录态加密保存在本机、匿名 yt-dlp 与带会话解析的分工。DSH 生态强调「一切皆插件」;skillhub.cn 为社区目录,与 DeepSeek / 幻方无官方从属关系。

结尾

dsh-video-vision 把在线与本地视频变成模型可操作的带时间戳画面、音频与文本,减少手工下载上传。需要固定版本安装源、工具 action 与缓存结构时,以 GitHub README 为准;目录页:https://www.skillhub.cn/plugins/Tests4gptplay/dsh-video-vision。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye