前言¶
在本地运行大模型通常涉及繁琐的 Python 环境管理、虚拟环境配置以及进程维护工作。对于使用 DeepSeek Harness (DSH) 的用户而言，集成本地推理服务需要额外的定制化开发。dsh-mlx-local 插件旨在解决这一痛点，它负责管理 Python 环境、启动和停止 mlx_lm.server，并将本地服务无缝接入 DSH 已有的“自定义提供方”体系。
这是什么¶
dsh-mlx-local 是一个为 Apple Silicon Mac 设计的 DSH 插件。由 JshGao 维护，其核心职责是为本地模型推理提供基础设施。它不涉及复杂的业务逻辑，而是专注于环境搭建、服务启停以及与 DSH 客户端的协议对接，从而让用户能够在不增加固定请求成本的前提下，通过 DSH 访问本地模型。
核心功能¶
- 设置页管理：在 DSH 设置页提供“MLX 模型”栏目，支持启动、停止以及切换本地模型。
- 环境自动配置：自动探测 Python 3.9–3.13，创建独立的虚拟环境 (venv) 并安装
mlx-lm。 - 模型目录管理：支持添加、移除、预下载以及列出本地模型。
- 服务稳定性：具备服务异常退出检测、残留进程回收能力，并在 DSH 退出时自动关闭本地服务。
- Qwen3 优化：为本地 Qwen3 模型自动配置思考强度，主界面模型选择器可切换 Off / High。
- 纯净接入：不注册额外的 provider，继续使用 DSH 的“自定义提供方”接入；不注册系统提示词段，也不注册任何工具。插件仅作为基础设施运行。
安装与启用¶
使用官方提供的 Release 包进行安装：
dsh plugin --profile web add https://github.com/JshGao/dsh-mlx-local/releases/download/v0.4.1/dsh-mlx-local-0.4.1.tgz
安装后需要重启 DSH 以加载插件。
典型用法¶
- 启动服务：重启 DSH 后，打开 设置 → MLX 模型。在设置页加载模型目录或使用内置 HF 模型，选择模型后点击 启动。
- 配置 Provider：在 设置 → 模型 → 添加 provider 中：
- 选择 自定义提供方。
- route 名任意，例如
local。 - 协议选择
openai-completions。 - baseURL 填
http://127.0.0.1:8080/v1。 - 模型 id 填 MLX 插件目录中显示的模型 id。
- API Key 填任意值（本地服务不会校验）。
- 使用会话：新建会话，在主界面选择该 provider。若模型是 Qwen3，思考强度会显示 Off / High。
适用场景与注意¶
- 硬件与系统：仅支持 Apple Silicon (M 系列) Mac，系统要求 macOS 13 或更高。
- DSH 版本：要求 DSH 版本在 0.1.5-rc.1 及以上，且
dsh命令可用。 - Python 版本：要求 3.9–3.13，建议 3.10–3.12。
- 网络与存储：首次使用 Hugging Face 模型时需要联网下载权重；每个 4-bit 模型约占用 2–6 GB 磁盘空间。
- 服务启动：服务不随 DSH 启动自动拉起，需要用户在设置页显式点击启动。
- 版本更新：0.4.1 是破坏性更新，插件不再注册任何工具。从旧版本升级时，必须先移除再安装。
- 卸载残留：卸载时插件设置和
~/.dsh/mlx/下的 venv、日志会保留，需手动删除。
短结尾¶
dsh-mlx-local 将 MLX 本地推理的繁琐工作封装为标准插件，降低了在 Apple Silicon 上使用 DSH 进行本地部署的门槛。如需了解更多详情或查看源码，可访问 插件目录 或 GitHub 仓库。
