dsh-mlx-local: 在 Apple Silicon Mac 上運行本地大模型
`dsh-mlx-local` 是一款專爲 Apple Silicon Mac 設計的 DeepSeek Harness 插件,旨在簡化本地模型推理流程。它自動管理 Python 環境、虛擬環境及 `mlx_lm.server` 服務,將本地推理無縫接入 DSH 的自定義提供方體系。核心功能包括模型目錄管理、環境自動配置、服務啓停控制及針對 Qwen3 的思考強度優化。該插件不註冊額外 provider 或工具,純淨作爲基礎設施運行。用戶需手動啓動服務並在設置中配置 Provider 連接本地 API,適用於 macOS 13 及以上版本。
閱讀全文