dsh-plugin-ollama-bridge:把本地 Ollama 當批量長文本工位

前言

在 DeepSeek Harness(DSH)裏跑智能體時,主模型往往要兼顧調度、審閱和對話;若把大量低難度、長文本的拆分與填充也塞進同一條上下文,主模型 token 消耗會很快上去。本機 Ollama 可以承擔這類重複勞動,但缺少與 Harness 工具鏈對齊的註冊方式時,長原文容易整段進入會話,審閱邊界也不清晰。

下面介紹社區插件 dsh-plugin-ollama-bridge(維護者 wth373737,分類:模型推理)。它在本機 Ollama 上註冊四類工具,覆蓋「看庫存 → 試調用 → 批量長文本 → 必要時聯網補元數據」的閉環;長原文留在插件進程內,回給主模型的主要是條數、失敗分佈和抽樣,從而把節省放在主模型 token 上。

這是什麼

dsh-plugin-ollama-bridge 是 DSH 插件,當前 package 版本爲 0.2.2,許可證 MIT。簡介原文爲:Local Ollama worker tools for DeepSeek Harness: bulk long-text jobs with deterministic verification and sampling labels.

安裝後在 DSH 界面 Plugins → Installed plugins 中顯示爲「本地 Ollama 橋」。它不改變 DSH「一切皆插件」的擴展方式;社區目錄頁在 SkillHub,源碼與說明在 GitHub,與 DeepSeek / 幻方無官方從屬關係。

核心功能:四個工具

工具 作用
ollama_models 列出已安裝模型:參數量、量化、上下文長度、能力,以及 roles 提示(如 code / reasoning / vision / embedding / long-context 等)
ollama_ask 單次問答,未校驗——適合探針或少量高價值判斷
ollama_batch 分塊、併發、重試;每項做確定性校驗;返回審閱抽樣;可選結果文件
ollama_lookup 聯網查模型能力;在用戶批准具體查詢語句之後才搜索

ollama_batch 只返回:條目數、通過/失敗、失敗原因計數、最多 20 條失敗片段,以及 verbatim 審閱抽樣(默認約 2% 條目,至少 1 條、最多 8 條)。源長文本不進入對話。

每條結果在寫入文件與返回抽樣中,會帶下列標籤之一(確定性校驗只驗形式,不驗語義):

標籤 含義
ok 通過全部確定性檢查,但未逐條人工閱讀
*抽樣待複覈* 被抽樣並返回;由主模型閱讀
!!校驗失敗(原因) 格式不合規:空、過長、非 JSON、選項外、缺必填子串、正則未命中或拒答等

彙報時應區分「全部條目格式合格」與「內容是否正確」;小批量時可提高 sample_rate。

推薦流程:先看清再選模型

  1. 調用 ollama_models 看本機庫存與元數據提示。
  2. 歸納各模型適合做什麼。roles 僅爲元數據提示,不代表實測質量。
  3. 元數據不夠(基準、已知弱點等)時,調用 ollama_lookup——會把擬執行的查詢交給用戶批准;用戶拒絕則 approved: false 且不會搜索。
  4. 用選定的 tag 跑 ollama_batch。未知 tag 會立即失敗,並列出已安裝模型名。

安裝與啓用

從 GitHub 安裝(推薦,便於更新)

在 DSH 中打開 Plugins → + Add plugin,填入:

github:wth373737/dsh-plugin-ollama-bridge

從本地目錄安裝

pnpm add file:/path/to/dsh-plugin-ollama-bridge

安裝後重啓 DSH。插件出現在 Plugins → Installed plugins,名稱爲「本地 Ollama 橋」。

配置

在 cordis.patch.yml 的 config 塊中示例:

baseURL: http://127.0.0.1:11434
model: qwen2.5:7b
numCtx: 8192
concurrency: 2
timeoutMs: 180000
  • numCtx:每個分塊可用上下文,也是內存佔用的主要因素。
  • concurrency:並行請求數;單機 1–2 較常見,大模型宜調低。
  • 若 Ollama 模型目錄非默認路徑,將環境變量 OLLAMA_MODELS 設爲模型根目錄。

邊界與安全

插件以當前 DSH 進程權限運行;安裝前應自行查看源碼與 MIT 許可證。

  • 讀:主機進程可讀任意絕對路徑。
  • 寫:僅限當前 session 工作區;路徑在工作區外會被拒絕並在消息中給出工作區根;無法解析工作區時拒絕寫入而非猜測。
  • 網絡:默認僅訪問配置的 baseURL;ollama_lookup 在用戶批准後纔會走主機配置的搜索提供方。
  • 批准:無可用應答者時,ollama_lookup 會拒絕查找,不會靜默跳過批准。

適用場景與注意

適合:本機已跑 Ollama、希望把批量長文本(分塊、併發、形式校驗、抽樣回主模型審閱)交給本地小模型,主模型保留調度與複覈的場景。

不適合把 ollama_ask 或未提高抽樣率的 ollama_batch 輸出當作「已全部語義正確」的依據;形式通過不等於業務正確。

開發側可用離線冒煙測試(無需 Ollama,且不會寫到工作區外):

npm test

結尾

dsh-plugin-ollama-bridge 把本地 Ollama 接進 DSH 工具環:長原文留在插件內,主模型主要看統計與抽樣,並用確定性標籤區分格式合格與待複覈項。需要安裝或細節時,可查閱 SkillHub 目錄頁 與 GitHub 倉庫。

羽毛球分组比赛记分
小程序二维码

欢迎使用《羽毛球分组比赛记分》微信小程序

小夜