DeepSeek Harness 插件:dsh-wsl-vllm
`dsh-wsl-vllm` 是 DeepSeek Harness (DSH) 的一個插件,旨在簡化 WSL 中 vLLM 服務的接入與交互。它將 vLLM 的 OpenAI 兼容接口(默認端口 8000)集成到 DSH 生態,支持通過 `dsh plugin` 命令安裝。插件提供 `vllm_status` 檢查服務狀態及模型加載情況,以及 `vllm_chat` 進行對話補全功能。支持 Docker 運行及環境變量配置,需確保 DSH 版本 ≥ 0.1.2 且對服務有訪問權限。
閱讀全文dsh-wsl-docker:WSL Docker 引擎診斷與 vLLM 容器檢查
DeepSeek Harness (DSH) 插件 `dsh-wsl-docker` 用於自動化診斷 WSL 環境下的 Docker 及 vLLM 容器狀態。它提供 `docker_doctor` 工具,支持檢查 Docker 路徑、守護進程配置、上下文及 vLLM 容器運行情況。開發者通過簡單命令即可快速排查本地模型部署環境,減少調試時間。該插件需 DSH 版本 ≥ 0.1.2,可通過命令安裝並重啓服務後使用。
閱讀全文dsh-vision-3090-fix:限制單次請求圖片數量的本地代理插件
`dsh-vision-3090-fix` 是一個 DeepSeek Harness 插件,旨在解決 vLLM 後端默認限制單次請求僅一張圖片,而 DSH 內部適配器按字節限制導致的 400 錯誤問題。該插件作爲本地反向代理運行,通過攔截請求將多餘圖片替換爲文本佔位符,強制將每條請求的圖片數量限制在指定上限(默認爲 1),同時保持流式響應特性。安裝後需配置代理參數並修改 Provider 的 baseURL。該工具適用於部署了 vLLM 且設置了 `--limit-mm-per-prompt image=1` 的自託管視覺模型環境,具有低成本、非侵入式等特點。
閱讀全文DeepSeek Harness 插件:vLLM-Ascend Profiler 分析器
DeepSeek Harness 插件旨在解決 vLLM 在昇騰 NPU 上部署時的性能分析難題。該插件通過解析 CANN 與 torch_npu 輸出的 profiling 產物,支持流式分析與可視化,可自動區分 Prefill 與 Decode 階段,並生成優化建議及報告。插件零運行時依賴,支持通過 pnpm 或本地鏈接安裝。
閱讀全文dsh-llm-openai-completions 插件介紹
`dsh-llm-openai-completions` 是 DeepSeek Harness 中用於連接自定義網關的適配器,主要解決角色定義、思考模式及視覺輸入的兼容性問題。其核心功能包括強制使用 system 角色、分離思考內容、支持圖片上傳,並適配多種 Qwen 模型格式。用戶可通過 DSH 命令行安裝並在配置文件中啓用。需注意,該項目已於 2026 年 10 月停止維護,版本停留在 0.1.0,且視覺功能的 0.2.0 版本未發佈。
閱讀全文DeepSeek Harness 本地 Qwen 模型適配器 (dsh-llm-qwen-local)
`dsh-llm-qwen-local` 是一個以插件爲中心的框架,用於在本地部署 Qwen 模型並接入 DSH 生態。該插件通過 vLLM 後端提供 OpenAI 兼容接口,支持多模態開關、推理檔位配置及圖像投影,並具備零運行時依賴和可視化 Web 配置界面。使用時需滿足 DSH 0.1.2-rc.1 及以上版本要求,並正確配置 vLLM 啓動參數。該插件採用 MIT 許可證,旨在簡化本地模型接入流程。
閱讀全文