前言¶
DeepSeek Harness (DSH) 是一个以插件为中心的框架。在本地部署 Qwen 模型时，开发者通常需要手动处理 vLLM 的配置以及与 DSH 生态的对接。dsh-llm-qwen-local 插件提供了标准的 LLM 适配层，专门用于驱动本地部署的 Qwen 模型。它通过 vLLM 后端提供 OpenAI 兼容接口，允许现有的 DSH 工作流直接调用本地模型，同时提供了可视化的 Web 配置界面。
核心功能¶
- 本地部署适配：针对本地 Qwen 模型提供标准适配层。
- vLLM 后端支持：依赖 vLLM 服务进行推理。
- OpenAI 兼容接口：暴露标准的
/v1/chat/completions端点。 - 多模态开关：支持按模型配置多模态功能开关。
- 推理档位配置：完全可配置的推理能力档位，包括默认档位及关闭状态的表达方式。
- Web 设置页：提供中英双语的 Web 设置页面，支持模型发现与配置。
- 图像投影：支持请求图像投影。
- 零运行时依赖：移除了对
@deepseek-ai生态运行时包的依赖（仅保留eventsource-parser和 Node.js 原生模块）。
安装与启用¶
在安装前，请确保满足以下系统环境要求：
* DSH 版本：0.1.2-rc.1 或更高版本。
* Node.js 版本：18 或更高版本。
* vLLM 实例：已启动并运行 OpenAI 兼容端点。
* Profile：需使用 web 或 headless profile（它们默认包含 @deepseek-ai/dsh-attachment）。
安装命令：
dsh plugin --profile web add dsh-llm-qwen-local
注意：DSH 0.1.1-rc.2 及更早版本会导致启动失败，Web 应用会在启动时报错提示等待 remote.credentials 等服务。请升级 DSH 或移除插件。
典型用法¶
安装完成后，需要在 DSH 的配置文件中定义适配器。主要配置项包括 baseURL（指向 vLLM 端点）、models 列表以及 reasoning 配置。
- id: llm-qwen-local
name: dsh-llm-qwen-local
config:
baseURL: http://127.0.0.1:8000/v1
models:
- id: qwen3.8
name: Qwen3.8 (local)
multimodal: true
reasoning:
efforts:
- { id: off, wire: none }
- { id: low, wire: low }
- { id: medium, wire: medium }
- { id: xhigh, wire: xhigh }
defaultEffort: xhigh
在上述配置中：
1. baseURL 指向 vLLM 的 OpenAI 兼容接口地址。
2. multimodal 开关控制当前模型是否支持图像输入。
3. reasoning 部分定义了推理能力的档位映射，wire 字段对应 vLLM 接受的参数名，defaultEffort 设置默认使用的档位。
注意事项¶
- 版本兼容性：插件严格依赖 DSH 0.1.2-rc.1 及以上版本。旧版本 DSH 不支持插件所需的
remote-namespace客户端模型。 - vLLM 启动参数：为了正确解析推理块和工具调用，vLLM 实例必须使用特定的启动参数：
--reasoning-parser qwen3
--enable-auto-tool-choice --tool-call-parser qwen3_coder
--max-model-len 262144
- 许可证与维护：该插件采用 MIT 许可证，由社区维护，并非 DeepSeek 或 Qwen 官方产品。
- 配置清理：旧版本的
maxRequestImageBytes配置项已被移除，现有配置文件中遗留的该字段将被忽略，无需手动迁移。
总结¶
dsh-llm-qwen-local 为开发者提供了一个轻量级且完全可配置的方案，用于在本地运行 Qwen 模型并接入 DSH 生态。它通过 Web 界面简化了推理档位和多模态配置的调试过程，同时通过零依赖设计降低了运行时复杂度。更多配置细节与设计文档可查阅项目仓库。
