dsh-plugin-ollama-bridge:把本地 Ollama 当批量长文本工位

前言

在 DeepSeek Harness(DSH)里跑智能体时,主模型往往要兼顾调度、审阅和对话;若把大量低难度、长文本的拆分与填充也塞进同一条上下文,主模型 token 消耗会很快上去。本机 Ollama 可以承担这类重复劳动,但缺少与 Harness 工具链对齐的注册方式时,长原文容易整段进入会话,审阅边界也不清晰。

下面介绍社区插件 dsh-plugin-ollama-bridge(维护者 wth373737,分类:模型推理)。它在本机 Ollama 上注册四类工具,覆盖「看库存 → 试调用 → 批量长文本 → 必要时联网补元数据」的闭环;长原文留在插件进程内,回给主模型的主要是条数、失败分布和抽样,从而把节省放在主模型 token 上。

这是什么

dsh-plugin-ollama-bridge 是 DSH 插件,当前 package 版本为 0.2.2,许可证 MIT。简介原文为:Local Ollama worker tools for DeepSeek Harness: bulk long-text jobs with deterministic verification and sampling labels.

安装后在 DSH 界面 Plugins → Installed plugins 中显示为「本地 Ollama 桥」。它不改变 DSH「一切皆插件」的扩展方式;社区目录页在 SkillHub,源码与说明在 GitHub,与 DeepSeek / 幻方无官方从属关系。

核心功能:四个工具

工具 作用
ollama_models 列出已安装模型:参数量、量化、上下文长度、能力,以及 roles 提示(如 code / reasoning / vision / embedding / long-context 等)
ollama_ask 单次问答,未校验——适合探针或少量高价值判断
ollama_batch 分块、并发、重试;每项做确定性校验;返回审阅抽样;可选结果文件
ollama_lookup 联网查模型能力;在用户批准具体查询语句之后才搜索

ollama_batch 只返回:条目数、通过/失败、失败原因计数、最多 20 条失败片段,以及 verbatim 审阅抽样(默认约 2% 条目,至少 1 条、最多 8 条)。源长文本不进入对话。

每条结果在写入文件与返回抽样中,会带下列标签之一(确定性校验只验形式,不验语义):

标签 含义
ok 通过全部确定性检查,但未逐条人工阅读
*抽样待复核* 被抽样并返回;由主模型阅读
!!校验失败(原因) 格式不合规:空、过长、非 JSON、选项外、缺必填子串、正则未命中或拒答等

汇报时应区分「全部条目格式合格」与「内容是否正确」;小批量时可提高 sample_rate。

推荐流程:先看清再选模型

  1. 调用 ollama_models 看本机库存与元数据提示。
  2. 归纳各模型适合做什么。roles 仅为元数据提示,不代表实测质量。
  3. 元数据不够(基准、已知弱点等)时,调用 ollama_lookup——会把拟执行的查询交给用户批准;用户拒绝则 approved: false 且不会搜索。
  4. 用选定的 tag 跑 ollama_batch。未知 tag 会立即失败,并列出已安装模型名。

安装与启用

从 GitHub 安装(推荐,便于更新)

在 DSH 中打开 Plugins → + Add plugin,填入:

github:wth373737/dsh-plugin-ollama-bridge

从本地目录安装

pnpm add file:/path/to/dsh-plugin-ollama-bridge

安装后重启 DSH。插件出现在 Plugins → Installed plugins,名称为「本地 Ollama 桥」。

配置

在 cordis.patch.yml 的 config 块中示例:

baseURL: http://127.0.0.1:11434
model: qwen2.5:7b
numCtx: 8192
concurrency: 2
timeoutMs: 180000
  • numCtx:每个分块可用上下文,也是内存占用的主要因素。
  • concurrency:并行请求数;单机 1–2 较常见,大模型宜调低。
  • 若 Ollama 模型目录非默认路径,将环境变量 OLLAMA_MODELS 设为模型根目录。

边界与安全

插件以当前 DSH 进程权限运行;安装前应自行查看源码与 MIT 许可证。

  • 读:主机进程可读任意绝对路径。
  • 写:仅限当前 session 工作区;路径在工作区外会被拒绝并在消息中给出工作区根;无法解析工作区时拒绝写入而非猜测。
  • 网络:默认仅访问配置的 baseURL;ollama_lookup 在用户批准后才会走主机配置的搜索提供方。
  • 批准:无可用应答者时,ollama_lookup 会拒绝查找,不会静默跳过批准。

适用场景与注意

适合:本机已跑 Ollama、希望把批量长文本(分块、并发、形式校验、抽样回主模型审阅)交给本地小模型,主模型保留调度与复核的场景。

不适合把 ollama_ask 或未提高抽样率的 ollama_batch 输出当作「已全部语义正确」的依据;形式通过不等于业务正确。

开发侧可用离线冒烟测试(无需 Ollama,且不会写到工作区外):

npm test

结尾

dsh-plugin-ollama-bridge 把本地 Ollama 接进 DSH 工具环:长原文留在插件内,主模型主要看统计与抽样,并用确定性标签区分格式合格与待复核项。需要安装或细节时,可查阅 SkillHub 目录页 与 GitHub 仓库。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

Xiaoye