前言¶
在 DeepSeek Harness(DSH)里跑智能体时,主模型往往要兼顾调度、审阅和对话;若把大量低难度、长文本的拆分与填充也塞进同一条上下文,主模型 token 消耗会很快上去。本机 Ollama 可以承担这类重复劳动,但缺少与 Harness 工具链对齐的注册方式时,长原文容易整段进入会话,审阅边界也不清晰。
下面介绍社区插件 dsh-plugin-ollama-bridge(维护者 wth373737,分类:模型推理)。它在本机 Ollama 上注册四类工具,覆盖「看库存 → 试调用 → 批量长文本 → 必要时联网补元数据」的闭环;长原文留在插件进程内,回给主模型的主要是条数、失败分布和抽样,从而把节省放在主模型 token 上。
这是什么¶
dsh-plugin-ollama-bridge 是 DSH 插件,当前 package 版本为 0.2.2,许可证 MIT。简介原文为:Local Ollama worker tools for DeepSeek Harness: bulk long-text jobs with deterministic verification and sampling labels.
安装后在 DSH 界面 Plugins → Installed plugins 中显示为「本地 Ollama 桥」。它不改变 DSH「一切皆插件」的扩展方式;社区目录页在 SkillHub,源码与说明在 GitHub,与 DeepSeek / 幻方无官方从属关系。
核心功能:四个工具¶
| 工具 | 作用 |
|---|---|
ollama_models |
列出已安装模型:参数量、量化、上下文长度、能力,以及 roles 提示(如 code / reasoning / vision / embedding / long-context 等) |
ollama_ask |
单次问答,未校验——适合探针或少量高价值判断 |
ollama_batch |
分块、并发、重试;每项做确定性校验;返回审阅抽样;可选结果文件 |
ollama_lookup |
联网查模型能力;在用户批准具体查询语句之后才搜索 |
ollama_batch 只返回:条目数、通过/失败、失败原因计数、最多 20 条失败片段,以及 verbatim 审阅抽样(默认约 2% 条目,至少 1 条、最多 8 条)。源长文本不进入对话。
每条结果在写入文件与返回抽样中,会带下列标签之一(确定性校验只验形式,不验语义):
| 标签 | 含义 |
|---|---|
ok |
通过全部确定性检查,但未逐条人工阅读 |
*抽样待复核* |
被抽样并返回;由主模型阅读 |
!!校验失败(原因) |
格式不合规:空、过长、非 JSON、选项外、缺必填子串、正则未命中或拒答等 |
汇报时应区分「全部条目格式合格」与「内容是否正确」;小批量时可提高 sample_rate。
推荐流程:先看清再选模型¶
- 调用
ollama_models看本机库存与元数据提示。 - 归纳各模型适合做什么。
roles仅为元数据提示,不代表实测质量。 - 元数据不够(基准、已知弱点等)时,调用
ollama_lookup——会把拟执行的查询交给用户批准;用户拒绝则approved: false且不会搜索。 - 用选定的 tag 跑
ollama_batch。未知 tag 会立即失败,并列出已安装模型名。
安装与启用¶
从 GitHub 安装(推荐,便于更新)
在 DSH 中打开 Plugins → + Add plugin,填入:
github:wth373737/dsh-plugin-ollama-bridge
从本地目录安装
pnpm add file:/path/to/dsh-plugin-ollama-bridge
安装后重启 DSH。插件出现在 Plugins → Installed plugins,名称为「本地 Ollama 桥」。
配置¶
在 cordis.patch.yml 的 config 块中示例:
baseURL: http://127.0.0.1:11434
model: qwen2.5:7b
numCtx: 8192
concurrency: 2
timeoutMs: 180000
numCtx:每个分块可用上下文,也是内存占用的主要因素。concurrency:并行请求数;单机 1–2 较常见,大模型宜调低。- 若 Ollama 模型目录非默认路径,将环境变量
OLLAMA_MODELS设为模型根目录。
边界与安全¶
插件以当前 DSH 进程权限运行;安装前应自行查看源码与 MIT 许可证。
- 读:主机进程可读任意绝对路径。
- 写:仅限当前 session 工作区;路径在工作区外会被拒绝并在消息中给出工作区根;无法解析工作区时拒绝写入而非猜测。
- 网络:默认仅访问配置的
baseURL;ollama_lookup在用户批准后才会走主机配置的搜索提供方。 - 批准:无可用应答者时,
ollama_lookup会拒绝查找,不会静默跳过批准。
适用场景与注意¶
适合:本机已跑 Ollama、希望把批量长文本(分块、并发、形式校验、抽样回主模型审阅)交给本地小模型,主模型保留调度与复核的场景。
不适合把 ollama_ask 或未提高抽样率的 ollama_batch 输出当作「已全部语义正确」的依据;形式通过不等于业务正确。
开发侧可用离线冒烟测试(无需 Ollama,且不会写到工作区外):
npm test
结尾¶
dsh-plugin-ollama-bridge 把本地 Ollama 接进 DSH 工具环:长原文留在插件内,主模型主要看统计与抽样,并用确定性标签区分格式合格与待复核项。需要安装或细节时,可查阅 SkillHub 目录页 与 GitHub 仓库。