DeepSeek Harness 插件:dsh-wsl-vllm
`dsh-wsl-vllm` 是 DeepSeek Harness (DSH) 的一個插件,旨在簡化 WSL 中 vLLM 服務的接入與交互。它將 vLLM 的 OpenAI 兼容接口(默認端口 8000)集成到 DSH 生態,支持通過 `dsh plugin` 命令安裝。插件提供 `vllm_status` 檢查服務狀態及模型加載情況,以及 `vllm_chat` 進行對話補全功能。支持 Docker 運行及環境變量配置,需確保 DSH 版本 ≥ 0.1.2 且對服務有訪問權限。
閱讀全文