huggingface-local-models：用 Skill 在本地跑 Hugging Face GGUF 模型
huggingface-local-models 是 Hugging Face skills 倉庫中的 Agent Skill，指導在 CPU、Metal、CUDA 或 ROCm 上通過 llama.cpp 與 GGUF 在本地選型與推理。默認流程包括用 apps=llama.cpp 搜 Hub、閱讀 local-app 頁的 quant 建議、用 tree API 確認文件名，並以 llama-cli 或 llama-server 的 -hf 形式啓動，必要時 --hf-repo/--hf-file 或從 Transformers 轉換。文章說明安裝啓用方式、量化選擇要點、OpenAI 兼容本地服務冒煙測試及適用注意。
閱讀全文DeepSeek Harness 插件：dsh-local-llm
`dsh-local-llm` 是 DeepSeek Harness 的一個社區插件，用於在本地運行 GGUF 格式模型。它提供模型下載、管理及通過 `llama-server` 啓動 OpenAI 兼容推理接口的功能。插件支持從 Hugging Face 下載模型、SSE 流式傳輸、自動檢測上下文大小以及路徑安全保護。用戶需安裝 Node.js 18+，通過指定配置啓動服務，即可在 Harness 中直接調用本地模型，實現低延遲、隱私安全的推理。
閱讀全文