前言¶
在 DeepSeek Harness（DSH）里做本地模型推理，常见做法是单独起推理服务，再在 DSH 里配置远程或 OpenAI 兼容端点。模型文件、分片、视觉投影器、MTP 以及引擎参数往往散落在目录和命令行里，换机或调参时缺少统一入口。
下面介绍社区插件 dsh-strata（维护者 averyjohnkucan-arch）：在 DSH 的 Web 配置界面中管理 Strata Unleashed GGUF 模型、运行时与已保存的 profile，并把模型注册进 DSH 的对话模型选择器。分类为「模型推理」；当前 GitHub 星标为 0。
这是什么¶
dsh-strata 是面向 DeepSeek Harness 的 Strata 本地推理 provider 与模型管理器（README 简介：Strata local inference provider and model manager for DeepSeek Harness）。它以可安装的 Cordis bundle 形式提供，不 patch DSH 核心、不替换内置 UI、不要求二次编译；安装时使用 DSH 已带的 peer 依赖，不会额外拉一套 provider 栈。
插件当前版本 0.1.7（MIT），要求 DeepSeek Harness 0.2.1-rc.2 且运行在 Web profile。Node 开发环境需 22.19+（见 package.json 的 engines）。
核心功能¶
模型与 profile¶
在 Settings → Models → Strata 中可：
- Add model → Select model files：浏览宿主机模型目录，多选文件或 Select all model files here；跨目录浏览时保留已选文件。
- Inspect and assign：读取文件头，分配主模型、有序分片、视觉投影器与 MTP；会报告缺失分片、混用主模型集、不支持的 MTP 格式。
- 编辑并保存 profile 后 Start：若缺少运行时或 model pack，会先准备再启动服务；进度可取消。已安装引擎与已导入的 pack 可在 Runtime and imported model data 中选择。
- 保存后，模型出现在 DSH 对话侧的模型选择器中。
Edit 重新打开已保存 profile；Remove profile 删除配置并停止该 profile 拥有的进程，已下载的模型文件保留。Attach running server 可显式挂接已在运行、且对外宣告该 profile 模型 ID 的服务器；停止或禁用挂接只会 detach，不会结束外部进程，且 launch 设置不会作用于外部服务器。
引擎 CLI 与配置¶
引擎可执行文件 help 中列出的推理 flag，在 All engine CLI options 中有对应控件：留空表示引擎默认；布尔项 Omit flag 表示不向进程传递该 flag（不等于一定关闭引擎默认行为）。完整 JSON 编辑器支持重复 flag 用数组、多值 flag 用 {"argv":["first","second"]}；额外 argv 为数组，不是 shell 字符串。环境变量与完整 server 配置也可编辑。
运行时与格式（首版范围）¶
引擎源码来自 StrataUnleashed，本 release 固定 revision c73cde37581e6a79664176a08a232480c1b1fcfc。自动安装目前在 Linux 上从该源码构建 NVIDIA CUDA 引擎，并创建 Python 环境、安装依赖、构建 CPU/CUDA 视觉 reader；会尝试 Vulkan 视觉 reader，工具不可用则保留 CPU 回退。需要带 venv 的 Python、Git、CMake、Ninja、C++ 编译器及兼容的 CUDA 工具链/驱动；这些系统依赖不会以管理员权限自动安装。也可手动提供其他受支持的引擎二进制。首版不是通用预编译引擎分发。
自动 model packing 目前支持 qwen4exp / Flash Next（使用 fork 内 iq_pack.py）。其他架构需上游已准备好的兼容 runtime pack。MTP GGUF 须为 Strata 打包的 Q2_0 格式（mtp_rt.py 接受）；任意独立 FP16/Q4/Q8 MTP GGUF 会被识别并明确拒绝转换。已准备的 MTP runtime 受支持；MTP 不会被静默丢弃，调参器也不会把它挪离文本 GPU。
视觉模式：Auto、GPU、iGPU/Vulkan、CPU、Off。K/V 仅接受引擎实际支持的混合格式（如 FP16/FP16、Q4/Q4 等；下拉项不表示所有笛卡尔组合均可用）。
导入、调参与数据目录¶
Import saved Strata configuration 可导入已有 JSON 运行配置；导入记录源文件 SHA-256 与既有校验状态。可选 Tune saved profile 在当前 GPU 上测量并调参（需主动开启）；失败或取消会保留此前保存的 tune。
禁用插件会移除卡片、provider 注册与工具，并停止其拥有的服务器；卸载 bundle 只移除代码。Saved profiles 与运行时数据 留在 ~/.dsh/dsh-strata/（或 $DSH_HOME/dsh-strata/），重装可恢复；若要彻底清空需单独删除该目录。
与 DSH 的集成方式¶
Host 通过 ctx.llm.registerAdapter 注册 LlmAdapter，线格式转换、图像与 replay 委托给 DSH 公开的 PiAiAdapter，并单独注册 ctx.webServer.register 路由。Agent 侧提供 strata_models 工具，与卡片 UI 共用同一套操作及 DSH 的 approveEscalation；主机管理类调用需要 Full access 或单次批准。本初始版本面向本地 Web profile；远程委托与仅 Electron 的 profile 尚未验证。
安装与启用¶
需要 DeepSeek Harness 0.2.1-rc.2，并在 Web profile 下运行。
- 打开 Plugins → Add plugin → GitHub。
- 粘贴仓库地址：
https://github.com/averyjohnkucan-arch/dsh-strata
- 安装并启用插件；按提示刷新浏览器，或在管理器要求时重启 DSH。
- 打开 Settings → Models → Strata 开始配置模型。
插件目录页：https://www.skillhub.cn/plugins/averyjohnkucan-arch/dsh-strata（社区站点，与 DeepSeek / 幻方无官方从属关系）。
典型用法¶
- 在 Strata 设置页 Add model，从本机模型目录选中 GGUF 及相关文件（含分片、视觉、MTP 若需要）。
- 执行 Inspect and assign，确认主模型与分片无误后保存 profile。
- 点击 Start，等待运行时或 model pack 准备完成；服务就绪后在 DSH 对话里从模型选择器选用该模型。
- 若已有外部 Strata 进程在跑，可用 Attach running server 挂接，而无需由插件再起一份进程。
- 需要复用旧环境时，用 Import saved Strata configuration 导入 JSON；需要针对当前 GPU 优化时，在理解 Tune saved profile 会改写可调项的前提下再执行调参。
适用场景与注意¶
适合已在本地使用或计划使用 Strata Unleashed GGUF 生态、并希望把模型生命周期收进 DSH Web 设置与对话选模流程的开发者。首版侧重 Linux + CUDA 自动构建与 qwen4exp / Flash Next 打包路径；其他架构与通用预编译引擎需自行准备兼容 pack 或二进制。
插件以 当前 DSH 进程的用户权限 运行，会读写 ~/.dsh/dsh-strata/、访问你选择的模型路径，并可能触发本机编译与 Python 环境创建。安装前应在 GitHub 阅读源码与 MIT 许可证，确认环境与安全边界符合你的要求。社区目录与 GitHub 描述不构成官方背书；星标、版本以仓库与 package.json 为准。
