DeepSeek Harness 插件:dsh-wsl-vllm
`dsh-wsl-vllm` 是 DeepSeek Harness (DSH) 的一个插件,旨在简化 WSL 中 vLLM 服务的接入与交互。它将 vLLM 的 OpenAI 兼容接口(默认端口 8000)集成到 DSH 生态,支持通过 `dsh plugin` 命令安装。插件提供 `vllm_status` 检查服务状态及模型加载情况,以及 `vllm_chat` 进行对话补全功能。支持 Docker 运行及环境变量配置,需确保 DSH 版本 ≥ 0.1.2 且对服务有访问权限。
阅读全文dsh-wsl-docker:WSL Docker 引擎诊断与 vLLM 容器检查
DeepSeek Harness (DSH) 插件 `dsh-wsl-docker` 用于自动化诊断 WSL 环境下的 Docker 及 vLLM 容器状态。它提供 `docker_doctor` 工具,支持检查 Docker 路径、守护进程配置、上下文及 vLLM 容器运行情况。开发者通过简单命令即可快速排查本地模型部署环境,减少调试时间。该插件需 DSH 版本 ≥ 0.1.2,可通过命令安装并重启服务后使用。
阅读全文dsh-vision-3090-fix:限制单次请求图片数量的本地代理插件
`dsh-vision-3090-fix` 是一个 DeepSeek Harness 插件,旨在解决 vLLM 后端默认限制单次请求仅一张图片,而 DSH 内部适配器按字节限制导致的 400 错误问题。该插件作为本地反向代理运行,通过拦截请求将多余图片替换为文本占位符,强制将每条请求的图片数量限制在指定上限(默认为 1),同时保持流式响应特性。安装后需配置代理参数并修改 Provider 的 baseURL。该工具适用于部署了 vLLM 且设置了 `--limit-mm-per-prompt image=1` 的自托管视觉模型环境,具有低成本、非侵入式等特点。
阅读全文DeepSeek Harness 插件:vLLM-Ascend Profiler 分析器
DeepSeek Harness 插件旨在解决 vLLM 在昇腾 NPU 上部署时的性能分析难题。该插件通过解析 CANN 与 torch_npu 输出的 profiling 产物,支持流式分析与可视化,可自动区分 Prefill 与 Decode 阶段,并生成优化建议及报告。插件零运行时依赖,支持通过 pnpm 或本地链接安装。
阅读全文dsh-llm-openai-completions 插件介绍
`dsh-llm-openai-completions` 是 DeepSeek Harness 中用于连接自定义网关的适配器,主要解决角色定义、思考模式及视觉输入的兼容性问题。其核心功能包括强制使用 system 角色、分离思考内容、支持图片上传,并适配多种 Qwen 模型格式。用户可通过 DSH 命令行安装并在配置文件中启用。需注意,该项目已于 2026 年 10 月停止维护,版本停留在 0.1.0,且视觉功能的 0.2.0 版本未发布。
阅读全文DeepSeek Harness 本地 Qwen 模型适配器 (dsh-llm-qwen-local)
`dsh-llm-qwen-local` 是一个以插件为中心的框架,用于在本地部署 Qwen 模型并接入 DSH 生态。该插件通过 vLLM 后端提供 OpenAI 兼容接口,支持多模态开关、推理档位配置及图像投影,并具备零运行时依赖和可视化 Web 配置界面。使用时需满足 DSH 0.1.2-rc.1 及以上版本要求,并正确配置 vLLM 启动参数。该插件采用 MIT 许可证,旨在简化本地模型接入流程。
阅读全文