DeepSeek Harness 插件:dsh-wsl-vllm

`dsh-wsl-vllm` 是 DeepSeek Harness (DSH) 的一個插件,旨在簡化 WSL 中 vLLM 服務的接入與交互。它將 vLLM 的 OpenAI 兼容接口(默認端口 8000)集成到 DSH 生態,支持通過 `dsh plugin` 命令安裝。插件提供 `vllm_status` 檢查服務狀態及模型加載情況,以及 `vllm_chat` 進行對話補全功能。支持 Docker 運行及環境變量配置,需確保 DSH 版本 ≥ 0.1.2 且對服務有訪問權限。

閱讀全文
dsh-wsl-docker:WSL Docker 引擎診斷與 vLLM 容器檢查

DeepSeek Harness (DSH) 插件 `dsh-wsl-docker` 用於自動化診斷 WSL 環境下的 Docker 及 vLLM 容器狀態。它提供 `docker_doctor` 工具,支持檢查 Docker 路徑、守護進程配置、上下文及 vLLM 容器運行情況。開發者通過簡單命令即可快速排查本地模型部署環境,減少調試時間。該插件需 DSH 版本 ≥ 0.1.2,可通過命令安裝並重啓服務後使用。

閱讀全文
dsh-vision-3090-fix:限制單次請求圖片數量的本地代理插件

`dsh-vision-3090-fix` 是一個 DeepSeek Harness 插件,旨在解決 vLLM 後端默認限制單次請求僅一張圖片,而 DSH 內部適配器按字節限制導致的 400 錯誤問題。該插件作爲本地反向代理運行,通過攔截請求將多餘圖片替換爲文本佔位符,強制將每條請求的圖片數量限制在指定上限(默認爲 1),同時保持流式響應特性。安裝後需配置代理參數並修改 Provider 的 baseURL。該工具適用於部署了 vLLM 且設置了 `--limit-mm-per-prompt image=1` 的自託管視覺模型環境,具有低成本、非侵入式等特點。

閱讀全文
DeepSeek Harness 插件:vLLM-Ascend Profiler 分析器

DeepSeek Harness 插件旨在解決 vLLM 在昇騰 NPU 上部署時的性能分析難題。該插件通過解析 CANN 與 torch_npu 輸出的 profiling 產物,支持流式分析與可視化,可自動區分 Prefill 與 Decode 階段,並生成優化建議及報告。插件零運行時依賴,支持通過 pnpm 或本地鏈接安裝。

閱讀全文
dsh-llm-openai-completions 插件介紹

`dsh-llm-openai-completions` 是 DeepSeek Harness 中用於連接自定義網關的適配器,主要解決角色定義、思考模式及視覺輸入的兼容性問題。其核心功能包括強制使用 system 角色、分離思考內容、支持圖片上傳,並適配多種 Qwen 模型格式。用戶可通過 DSH 命令行安裝並在配置文件中啓用。需注意,該項目已於 2026 年 10 月停止維護,版本停留在 0.1.0,且視覺功能的 0.2.0 版本未發佈。

閱讀全文
DeepSeek Harness 本地 Qwen 模型適配器 (dsh-llm-qwen-local)

`dsh-llm-qwen-local` 是一個以插件爲中心的框架,用於在本地部署 Qwen 模型並接入 DSH 生態。該插件通過 vLLM 後端提供 OpenAI 兼容接口,支持多模態開關、推理檔位配置及圖像投影,並具備零運行時依賴和可視化 Web 配置界面。使用時需滿足 DSH 0.1.2-rc.1 及以上版本要求,並正確配置 vLLM 啓動參數。該插件採用 MIT 許可證,旨在簡化本地模型接入流程。

閱讀全文
Moonshot 放出 Kimi K3 全量權重:首個 3T 級開源模型

2026 年 7 月 27 日,Moonshot AI 在 Hugging Face 與 GitHub 發佈 Kimi K3 全量權重:2.8T 總參數、104B 激活、1M 上下文,採用 MoE + KDA 注意力與 MXFP4 原生量化。本文梳理架構規格、編碼評測表現及 vLLM 自託管要點,並討論開源權重與閉源前沿的差距及部署門檻。

閱讀全文
快速從零部署一個DeepSeek-R1服務

這裏使用最簡單的幾條命令介紹如何部署DeepSeek-R1的服務,默認已經安裝了Anaconda,使用的是vllm框架,國內也可以輕鬆部署。

閱讀全文