huggingface-local-models:用 Skill 在本地跑 Hugging Face GGUF 模型

huggingface-local-models 是 Hugging Face skills 仓库中的 Agent Skill,指导在 CPU、Metal、CUDA 或 ROCm 上通过 llama.cpp 与 GGUF 在本地选型与推理。默认流程包括用 apps=llama.cpp 搜 Hub、阅读 local-app 页的 quant 建议、用 tree API 确认文件名,并以 llama-cli 或 llama-server 的 -hf 形式启动,必要时 --hf-repo/--hf-file 或从 Transformers 转换。文章说明安装启用方式、量化选择要点、OpenAI 兼容本地服务冒烟测试及适用注意。

阅读全文
dsh-wsl-llamacpp:对接本机 llama.cpp / Unsloth Desktop 的插件

`dsh-wsl-llamacpp` 是 DeepSeek Harness (DSH) 的一个插件,旨在简化本地 LLM 推理服务的接入。该插件通过 OpenAI 兼容接口对接本机 llama.cpp 或 Unsloth Desktop,提供 `llama_status` 和 `llama_chat` 工具,支持复用 GGUF 模型。安装命令为 `dsh plugin add github:173787247/dsh-wsl-llamacpp`。用户可配置 baseUrl、默认模型及超时时间。插件以当前进程权限运行,适用于需要在 DSH 中管理本地 WSL 环境推理流的场景。

阅读全文
iyicode/dsh-ctx-probe:自动探测本地模型上下文

dsh-ctx-probe 插件解决 DSH llm-pi-ai 本地服务器配置不匹配导致的 400 溢出问题。它通过实时探测 llama.cpp 和 Ollama 服务器的真实上下文窗口,实现与本地设置的双向自动同步。为防止探测风暴,采用单飞与指数退避策略,并支持本地请求实时探测与远端请求缓存。安装后需重启 DSH Web Host,使用 `/ctx-probe force` 命令可查看配置、生效及探测值。

阅读全文
在 DeepSeek Harness 中运行本地模型:vmarcelo49/dsh-local-models

DeepSeek Harness (DSH) 新增 `dsh-local-models` 插件,允许在 Web 界面直接调用本地 `.gguf` 模型。该插件无需构建,提供模型选择、上下文与 KV Cache 调整、VRAM 实时估算、配置保存及 OpenAI 兼容路由等功能。用户安装后需重启 DSH,即可在界面加载模型并注册为 LLM 提供商,支持自动启动与闲置驱逐。

阅读全文
dsh-llamacpp: 本地 llama.cpp 适配器

`dsh-llamacpp` 是专为 DeepSeek Harness (DSH) 设计的适配器插件,用于连接本地 llama.cpp 服务器。它通过 OpenAI 兼容接口通信,在 Harness 中注册为 `llamacpp` provider,支持流式输出和文本工具调用。插件支持通过环境变量或配置文件设置服务器地址、模型名称及 API Key。目前仅支持文本,不支持图片及 Ollama,且具备完善的错误处理机制。

阅读全文
dsh-llama-model-manager 插件介绍

dsh-llama-model-manager 是一款专为 Windows 环境设计的 DeepSeek Harness 插件,旨在解决本地部署大模型时切换繁琐、进程管理混乱及资源泄漏的问题。该插件通过一个固定的 OpenAI 兼容网关,自动管理 `llama-server` 的生命周期,包括模型的加载、卸载、优雅关闭及显存释放。它支持在可视化界面中操作,提供进程状态监控与日志查看,无需频繁修改配置,为开发者提供了一个稳定、高效的本地推理解决方案。

阅读全文
dsh-model-pin:限制模型请求范围以防止 llama.cpp 路由器重新加载

DeepSeek Harness (DSH) 插件 dsh-model-pin 解决了“模型轮盘赌”问题,防止因非允许的模型请求导致本地模型重新加载、缓存丢失及路由错误。该插件在解析层实施允许列表,强制将不匹配的请求重定向或拒绝,确保子代理和后台任务始终使用指定模型。它适用于资源受限环境及需要严格路由控制的场景,可通过配置文件轻松启用和定制。

阅读全文
DeepSeek Harness 本地模型插件介绍

`dsh-plugin-local-model` 是 DeepSeek Harness 的插件,旨在简化本地模型推理。它通过独立设置页,实现模型配置后首条对话自动拉起 llama.cpp,并在 5 分钟无交互后自动卸载以释放资源。此外,插件支持参数预设一键切换,确保离线运行及文件安全。用户需自行准备模型和工具,安装方式建议参考源码。该工具适合需要本地化、隐私保护及频繁切换参数的开发者。

阅读全文
DeepSeek Harness 插件:dsh-llama-responses

DeepSeek Harness 插件 dsh-llama-responses 采用插件化架构,通过 OpenAI 协议将子代理请求路由至本地 llama.cpp 服务,以降低成本并保障隐私。该插件支持多轮记忆、流式工具调用及子代理隔离等功能。安装需确保 llama.cpp 运行,配置适配器后,子代理将使用本地模型(如 qwen3.8-27b)。通过修改配置文件启用子代理工具,即可实现主代理与本地子代理的分离运行。

阅读全文
dsh-local-llm-controller:为 DSH 接入本地 llama.cpp 能力

`dsh-local-llm-controller` 插件旨在解决 DeepSeek Harness (DSH) 本地部署大模型繁琐的问题,通过「一切皆插件」的理念实现一键启停与配置管理。该插件支持 A/B 双槽位管理、文本与视觉模式切换及 8 组参数预设,安装后自动注册。用户需自行准备 `llama-server` 及模型文件,在插件中配置目录与路径即可一键启动服务。插件目前仅适配 DSH RC 分支,不包含服务器本体,且视觉模式需特定构建版本支持。

阅读全文