前言¶
在 DeepSeek Harness(DSH)裏跑智能體時,主模型往往要兼顧調度、審閱和對話;若把大量低難度、長文本的拆分與填充也塞進同一條上下文,主模型 token 消耗會很快上去。本機 Ollama 可以承擔這類重複勞動,但缺少與 Harness 工具鏈對齊的註冊方式時,長原文容易整段進入會話,審閱邊界也不清晰。
下面介紹社區插件 dsh-plugin-ollama-bridge(維護者 wth373737,分類:模型推理)。它在本機 Ollama 上註冊四類工具,覆蓋「看庫存 → 試調用 → 批量長文本 → 必要時聯網補元數據」的閉環;長原文留在插件進程內,回給主模型的主要是條數、失敗分佈和抽樣,從而把節省放在主模型 token 上。
這是什麼¶
dsh-plugin-ollama-bridge 是 DSH 插件,當前 package 版本爲 0.2.2,許可證 MIT。簡介原文爲:Local Ollama worker tools for DeepSeek Harness: bulk long-text jobs with deterministic verification and sampling labels.
安裝後在 DSH 界面 Plugins → Installed plugins 中顯示爲「本地 Ollama 橋」。它不改變 DSH「一切皆插件」的擴展方式;社區目錄頁在 SkillHub,源碼與說明在 GitHub,與 DeepSeek / 幻方無官方從屬關係。
核心功能:四個工具¶
| 工具 | 作用 |
|---|---|
ollama_models |
列出已安裝模型:參數量、量化、上下文長度、能力,以及 roles 提示(如 code / reasoning / vision / embedding / long-context 等) |
ollama_ask |
單次問答,未校驗——適合探針或少量高價值判斷 |
ollama_batch |
分塊、併發、重試;每項做確定性校驗;返回審閱抽樣;可選結果文件 |
ollama_lookup |
聯網查模型能力;在用戶批准具體查詢語句之後才搜索 |
ollama_batch 只返回:條目數、通過/失敗、失敗原因計數、最多 20 條失敗片段,以及 verbatim 審閱抽樣(默認約 2% 條目,至少 1 條、最多 8 條)。源長文本不進入對話。
每條結果在寫入文件與返回抽樣中,會帶下列標籤之一(確定性校驗只驗形式,不驗語義):
| 標籤 | 含義 |
|---|---|
ok |
通過全部確定性檢查,但未逐條人工閱讀 |
*抽樣待複覈* |
被抽樣並返回;由主模型閱讀 |
!!校驗失敗(原因) |
格式不合規:空、過長、非 JSON、選項外、缺必填子串、正則未命中或拒答等 |
彙報時應區分「全部條目格式合格」與「內容是否正確」;小批量時可提高 sample_rate。
推薦流程:先看清再選模型¶
- 調用
ollama_models看本機庫存與元數據提示。 - 歸納各模型適合做什麼。
roles僅爲元數據提示,不代表實測質量。 - 元數據不夠(基準、已知弱點等)時,調用
ollama_lookup——會把擬執行的查詢交給用戶批准;用戶拒絕則approved: false且不會搜索。 - 用選定的 tag 跑
ollama_batch。未知 tag 會立即失敗,並列出已安裝模型名。
安裝與啓用¶
從 GitHub 安裝(推薦,便於更新)
在 DSH 中打開 Plugins → + Add plugin,填入:
github:wth373737/dsh-plugin-ollama-bridge
從本地目錄安裝
pnpm add file:/path/to/dsh-plugin-ollama-bridge
安裝後重啓 DSH。插件出現在 Plugins → Installed plugins,名稱爲「本地 Ollama 橋」。
配置¶
在 cordis.patch.yml 的 config 塊中示例:
baseURL: http://127.0.0.1:11434
model: qwen2.5:7b
numCtx: 8192
concurrency: 2
timeoutMs: 180000
numCtx:每個分塊可用上下文,也是內存佔用的主要因素。concurrency:並行請求數;單機 1–2 較常見,大模型宜調低。- 若 Ollama 模型目錄非默認路徑,將環境變量
OLLAMA_MODELS設爲模型根目錄。
邊界與安全¶
插件以當前 DSH 進程權限運行;安裝前應自行查看源碼與 MIT 許可證。
- 讀:主機進程可讀任意絕對路徑。
- 寫:僅限當前 session 工作區;路徑在工作區外會被拒絕並在消息中給出工作區根;無法解析工作區時拒絕寫入而非猜測。
- 網絡:默認僅訪問配置的
baseURL;ollama_lookup在用戶批准後纔會走主機配置的搜索提供方。 - 批准:無可用應答者時,
ollama_lookup會拒絕查找,不會靜默跳過批准。
適用場景與注意¶
適合:本機已跑 Ollama、希望把批量長文本(分塊、併發、形式校驗、抽樣回主模型審閱)交給本地小模型,主模型保留調度與複覈的場景。
不適合把 ollama_ask 或未提高抽樣率的 ollama_batch 輸出當作「已全部語義正確」的依據;形式通過不等於業務正確。
開發側可用離線冒煙測試(無需 Ollama,且不會寫到工作區外):
npm test
結尾¶
dsh-plugin-ollama-bridge 把本地 Ollama 接進 DSH 工具環:長原文留在插件內,主模型主要看統計與抽樣,並用確定性標籤區分格式合格與待複覈項。需要安裝或細節時,可查閱 SkillHub 目錄頁 與 GitHub 倉庫。