huggingface-local-models:用 Skill 在本地跑 Hugging Face GGUF 模型

huggingface-local-models 是 Hugging Face skills 倉庫中的 Agent Skill,指導在 CPU、Metal、CUDA 或 ROCm 上通過 llama.cpp 與 GGUF 在本地選型與推理。默認流程包括用 apps=llama.cpp 搜 Hub、閱讀 local-app 頁的 quant 建議、用 tree API 確認文件名,並以 llama-cli 或 llama-server 的 -hf 形式啓動,必要時 --hf-repo/--hf-file 或從 Transformers 轉換。文章說明安裝啓用方式、量化選擇要點、OpenAI 兼容本地服務冒煙測試及適用注意。

閱讀全文
dsh-wsl-llamacpp:對接本機 llama.cpp / Unsloth Desktop 的插件

`dsh-wsl-llamacpp` 是 DeepSeek Harness (DSH) 的一個插件,旨在簡化本地 LLM 推理服務的接入。該插件通過 OpenAI 兼容接口對接本機 llama.cpp 或 Unsloth Desktop,提供 `llama_status` 和 `llama_chat` 工具,支持複用 GGUF 模型。安裝命令爲 `dsh plugin add github:173787247/dsh-wsl-llamacpp`。用戶可配置 baseUrl、默認模型及超時時間。插件以當前進程權限運行,適用於需要在 DSH 中管理本地 WSL 環境推理流的場景。

閱讀全文
iyicode/dsh-ctx-probe:自動探測本地模型上下文

dsh-ctx-probe 插件解決 DSH llm-pi-ai 本地服務器配置不匹配導致的 400 溢出問題。它通過實時探測 llama.cpp 和 Ollama 服務器的真實上下文窗口,實現與本地設置的雙向自動同步。爲防止探測風暴,採用單飛與指數退避策略,並支持本地請求實時探測與遠端請求緩存。安裝後需重啓 DSH Web Host,使用 `/ctx-probe force` 命令可查看配置、生效及探測值。

閱讀全文
在 DeepSeek Harness 中運行本地模型:vmarcelo49/dsh-local-models

DeepSeek Harness (DSH) 新增 `dsh-local-models` 插件,允許在 Web 界面直接調用本地 `.gguf` 模型。該插件無需構建,提供模型選擇、上下文與 KV Cache 調整、VRAM 實時估算、配置保存及 OpenAI 兼容路由等功能。用戶安裝後需重啓 DSH,即可在界面加載模型並註冊爲 LLM 提供商,支持自動啓動與閒置驅逐。

閱讀全文
dsh-llamacpp: 本地 llama.cpp 適配器

`dsh-llamacpp` 是專爲 DeepSeek Harness (DSH) 設計的適配器插件,用於連接本地 llama.cpp 服務器。它通過 OpenAI 兼容接口通信,在 Harness 中註冊爲 `llamacpp` provider,支持流式輸出和文本工具調用。插件支持通過環境變量或配置文件設置服務器地址、模型名稱及 API Key。目前僅支持文本,不支持圖片及 Ollama,且具備完善的錯誤處理機制。

閱讀全文
dsh-llama-model-manager 插件介紹

dsh-llama-model-manager 是一款專爲 Windows 環境設計的 DeepSeek Harness 插件,旨在解決本地部署大模型時切換繁瑣、進程管理混亂及資源泄漏的問題。該插件通過一個固定的 OpenAI 兼容網關,自動管理 `llama-server` 的生命週期,包括模型的加載、卸載、優雅關閉及顯存釋放。它支持在可視化界面中操作,提供進程狀態監控與日誌查看,無需頻繁修改配置,爲開發者提供了一個穩定、高效的本地推理解決方案。

閱讀全文
dsh-model-pin:限制模型請求範圍以防止 llama.cpp 路由器重新加載

DeepSeek Harness (DSH) 插件 dsh-model-pin 解決了“模型輪盤賭”問題,防止因非允許的模型請求導致本地模型重新加載、緩存丟失及路由錯誤。該插件在解析層實施允許列表,強制將不匹配的請求重定向或拒絕,確保子代理和後臺任務始終使用指定模型。它適用於資源受限環境及需要嚴格路由控制的場景,可通過配置文件輕鬆啓用和定製。

閱讀全文
DeepSeek Harness 本地模型插件介紹

`dsh-plugin-local-model` 是 DeepSeek Harness 的插件,旨在簡化本地模型推理。它通過獨立設置頁,實現模型配置後首條對話自動拉起 llama.cpp,並在 5 分鐘無交互後自動卸載以釋放資源。此外,插件支持參數預設一鍵切換,確保離線運行及文件安全。用戶需自行準備模型和工具,安裝方式建議參考源碼。該工具適合需要本地化、隱私保護及頻繁切換參數的開發者。

閱讀全文
DeepSeek Harness 插件:dsh-llama-responses

DeepSeek Harness 插件 dsh-llama-responses 採用插件化架構,通過 OpenAI 協議將子代理請求路由至本地 llama.cpp 服務,以降低成本並保障隱私。該插件支持多輪記憶、流式工具調用及子代理隔離等功能。安裝需確保 llama.cpp 運行,配置適配器後,子代理將使用本地模型(如 qwen3.8-27b)。通過修改配置文件啓用子代理工具,即可實現主代理與本地子代理的分離運行。

閱讀全文
dsh-local-llm-controller:爲 DSH 接入本地 llama.cpp 能力

`dsh-local-llm-controller` 插件旨在解決 DeepSeek Harness (DSH) 本地部署大模型繁瑣的問題,通過「一切皆插件」的理念實現一鍵啓停與配置管理。該插件支持 A/B 雙槽位管理、文本與視覺模式切換及 8 組參數預設,安裝後自動註冊。用戶需自行準備 `llama-server` 及模型文件,在插件中配置目錄與路徑即可一鍵啓動服務。插件目前僅適配 DSH RC 分支,不包含服務器本體,且視覺模式需特定構建版本支持。

閱讀全文