前言¶
DeepSeek Harness (DSH) 是一個以插件爲中心的框架。在本地部署 Qwen 模型時，開發者通常需要手動處理 vLLM 的配置以及與 DSH 生態的對接。dsh-llm-qwen-local 插件提供了標準的 LLM 適配層，專門用於驅動本地部署的 Qwen 模型。它通過 vLLM 後端提供 OpenAI 兼容接口，允許現有的 DSH 工作流直接調用本地模型，同時提供了可視化的 Web 配置界面。
核心功能¶
- 本地部署適配：針對本地 Qwen 模型提供標準適配層。
- vLLM 後端支持：依賴 vLLM 服務進行推理。
- OpenAI 兼容接口：暴露標準的
/v1/chat/completions端點。 - 多模態開關：支持按模型配置多模態功能開關。
- 推理檔位配置：完全可配置的推理能力檔位，包括默認檔位及關閉狀態的表達方式。
- Web 設置頁：提供中英雙語的 Web 設置頁面，支持模型發現與配置。
- 圖像投影：支持請求圖像投影。
- 零運行時依賴：移除了對
@deepseek-ai生態運行時包的依賴（僅保留eventsource-parser和 Node.js 原生模塊）。
安裝與啓用¶
在安裝前，請確保滿足以下系統環境要求：
* DSH 版本：0.1.2-rc.1 或更高版本。
* Node.js 版本：18 或更高版本。
* vLLM 實例：已啓動並運行 OpenAI 兼容端點。
* Profile：需使用 web 或 headless profile（它們默認包含 @deepseek-ai/dsh-attachment）。
安裝命令：
dsh plugin --profile web add dsh-llm-qwen-local
注意：DSH 0.1.1-rc.2 及更早版本會導致啓動失敗，Web 應用會在啓動時報錯提示等待 remote.credentials 等服務。請升級 DSH 或移除插件。
典型用法¶
安裝完成後，需要在 DSH 的配置文件中定義適配器。主要配置項包括 baseURL（指向 vLLM 端點）、models 列表以及 reasoning 配置。
- id: llm-qwen-local
name: dsh-llm-qwen-local
config:
baseURL: http://127.0.0.1:8000/v1
models:
- id: qwen3.8
name: Qwen3.8 (local)
multimodal: true
reasoning:
efforts:
- { id: off, wire: none }
- { id: low, wire: low }
- { id: medium, wire: medium }
- { id: xhigh, wire: xhigh }
defaultEffort: xhigh
在上述配置中：
1. baseURL 指向 vLLM 的 OpenAI 兼容接口地址。
2. multimodal 開關控制當前模型是否支持圖像輸入。
3. reasoning 部分定義了推理能力的檔位映射，wire 字段對應 vLLM 接受的參數名，defaultEffort 設置默認使用的檔位。
注意事項¶
- 版本兼容性：插件嚴格依賴 DSH 0.1.2-rc.1 及以上版本。舊版本 DSH 不支持插件所需的
remote-namespace客戶端模型。 - vLLM 啓動參數：爲了正確解析推理塊和工具調用，vLLM 實例必須使用特定的啓動參數：
--reasoning-parser qwen3
--enable-auto-tool-choice --tool-call-parser qwen3_coder
--max-model-len 262144
- 許可證與維護：該插件採用 MIT 許可證，由社區維護，並非 DeepSeek 或 Qwen 官方產品。
- 配置清理：舊版本的
maxRequestImageBytes配置項已被移除，現有配置文件中遺留的該字段將被忽略，無需手動遷移。
總結¶
dsh-llm-qwen-local 爲開發者提供了一個輕量級且完全可配置的方案，用於在本地運行 Qwen 模型並接入 DSH 生態。它通過 Web 界面簡化了推理檔位和多模態配置的調試過程，同時通過零依賴設計降低了運行時複雜度。更多配置細節與設計文檔可查閱項目倉庫。
