dsh-ninfer:在 DeepSeek Harness 中管理本地 NInfer 推理与模型配置

dsh-ninfer 是社区维护的 DSH Cordis 插件(0.1.7,MIT),在 Settings → Models → NInfer 中管理 NInfer 本地推理:多文件模型.inspect 与分片分配、可编辑 server profile、引擎 CLI/JSON 配置、启动或附着外部 ninfer-serve,并注册 LlmAdapter 供对话模型选择器使用。要求 DSH 0.2.1-rc.2 与 Web profile;运行时基于 iamwavecut/ninfer-all,支持带 patch 的 DFlash checkpoint 构建;内置 Qwen3.8-27B-NInfer 参考 profile。数据默认位于 ~/.dsh/dsh-ninfer/。

阅读全文