前言¶

DeepSeek Harness (DSH) 通过插件机制支持功能扩展，但在连接本地大模型服务器时，开发者通常需要自行处理模型发现、自动加载、并发控制和容错等细节。现有的适配器方案在处理高并发请求或模型未加载时的场景往往不够健壮。dsh-localforge 作为一个高性能适配器插件，旨在解决这些痛点，为 DSH 提供一个稳定且功能完备的本地模型接入方案。

这是什么¶

dsh-localforge 是一个高性能的适配器插件，由 orfeomorello 维护。它将 DeepSeek Harness (dsh) 与本地大语言模型服务器连接起来，主要支持 LM Studio，同时也兼容任何 OpenAI 或 Anthropic 兼容的端点。其核心价值在于通过插件机制，让 DSH 能够直接调用本地算力，同时解决了本地模型在并发请求下可能出现的饱和问题。

核心功能¶

该插件提供了以下关键能力：
* 模型发现与缓存：支持 /v1/models 和本地 API (/api/v0/models) 探测，具备 TTL 缓存和显式失效机制，避免了每次解析模型时的重复探测。
* 自动加载：当请求的模型未在服务器中加载时，自动触发加载请求并轮询模型就绪状态。
* 并发限制：为每个模型 ID 串行化请求，防止量化模型在高并发下饱和。
* 容错与回退：支持配置模型 fallback 链，当主模型返回可恢复错误时自动切换至备用模型。
* 推理预算：限制模型在生成最终答案前的内部思考长度。
* 采样预设：提供 code、chat、creative、precise 等预设配置。
* 性能监控：暴露 Prometheus 指标接口，包含 TTFT、TPS、队列深度和缓存命中率。
* 协议兼容：内置 Anthropic 兼容的 /v1/messages 适配器，支持 Claude 风格的系统提示和工具调用。
* 安全日志：结构化日志输出，且自动脱敏敏感信息（如凭证）。
* 类型安全：基于严格的 TypeScript 配置开发，包含完整的测试覆盖。

安装与启用¶

安装前请确保环境满足以下要求：
* DeepSeek Harness (dsh) 启用了 web profile。
* 本地 LLM 服务器（推荐 LM Studio 0.4.8+，默认端口 1234）。
* Node.js >= 22.19 和 pnpm >= 9。

使用官方插件安装命令添加该仓库：

dsh plugin --profile web add github:orfeomorello/dsh-localforge#main

安装完成后，在 DSH 的 Web 界面中：
1. 打开 Settings → Plugins。
2. 启用 LocalForge 插件。如果提示重启，请重启 dsh web。
3. 在模型选择器顶部，选择 LocalForge 作为提供者。

注意：该仓库的安装器会立即挂载社区插件。由于插件管理器直接导入编译后的 lib/ 入口，GitHub 的安装器不会编译 TypeScript 源码。如果 UI 仍显示导入失败，请检查浏览器控制台或 dsh web 终端的完整错误信息。

典型用法¶

在 ~/.dsh/settings.yaml 中添加最小配置示例：

llm-localforge:
  defaultConnection:
    baseURL: http://localhost:1234/v1
  models:
    - id: qwen/qwen3-8b
      preset: code
      fallback:
        - qwen/qwen3-4b
        - llama-3.1-8b

配置完成后，选择 LocalForge 提供者即可开始对话。流量将直接流向本地服务器，不影响 DeepSeek API 的余额。

适用场景与注意¶

该插件适合需要在本地运行模型、追求更高并发控制能力或需要 Prometheus 监控的开发者。它采用 MIT 许可证。

注意：由于插件以当前 DSH 进程的权限运行，建议在使用前检查源码以确保符合安全要求。

结语¶

通过 LocalForge，开发者可以在不消耗 API 配置的前提下，利用本地算力完成模型推理。更多细节请参考 GitHub 仓库 或 社区目录。