前言¶
在 DSH Desktop 里跑本地大模型,常见做法是自己起 llama.cpp、ninfer 等进程,再手工改 provider 的 baseURL 和模型列表。引擎换端口、显存不够、KV 参数要对齐时,容易和 DSH 的配置不同步。dsh-laci-engine 把 LACI(Local AI Control Interface)模型调度中心 嵌进 DSH:左侧栏多一个「模型调度」入口,控制台与网关由插件托管,导入、加载、关闭模型后,可用 127.0.0.1:8096/v1 接入 DSH 的 llm-pi-ai provider。
这是什么¶
dsh-laci-engine(GitHub:Atlantis-LA/dsh-laci-engine)是 Atlantis-LA 维护的 DSH 插件,分类为模型推理。npm 包名同为 dsh-laci-engine,当前资料中版本为 0.3.1,MIT License。LACI 与 dsh-laci-engine 最初由 Atlantis 创建。
插件在 DSH 左侧栏增加「模型调度」,内嵌并托管自带的 laci/ 控制台(默认 127.0.0.1:3102),无需单独安装网页端;并通过 OpenAI 兼容网关(默认 http://127.0.0.1:8096/v1)供 DSH 调用本地模型。
架构与端口¶
DSH 左侧栏「模型调度」
└─ /laci/ → 插件内置的 LACI 控制台(127.0.0.1:3102)
└─ 管理引擎 / 模型:导入、加载、关闭、显存预估、思考等级
└─ 网关 127.0.0.1:8096/v1(DSH 的 provider 指这里)
| 组件 | 默认地址 |
|---|---|
| 控制台 | 127.0.0.1:3102 |
| 网关 | 127.0.0.1:8096/v1 |
| 引擎实例端口 | 从 18095 起自动递增 |
| 数据目录 | %USERPROFILE%\.dsh\laci-engine |
环境要求(README):Windows 10/11、DSH Desktop 0.2.x;日常由 DSH 自带 Node 启动控制台,不必单独装 Node。仅手动调试控制台时需要 Node 22+。
核心功能¶
侧边栏与内置控制台¶
点「模型调度」后插件自动拉起内置控制台。数据落在 %USERPROFILE%\.dsh\laci-engine:config.json 记录 3102 / 8096 端口;data\engines\、data\models\ 存引擎与模型定义;data\instances.json 为运行时实例;日志在 logs\ 下。若检测到旧版插件旁的 <插件根>\data\,会优先沿用,便于升级不丢模型。
三种导入路径¶
控制台底部提供三类入口:
- 导入整合包:适合网盘下的文件夹(含
.bat/.exe与模型)。选文件夹后扫描启动脚本与模型,可「按参数运行」或「原样运行」,试启动确认端口后导入,再在卡片里「加载」。 - 导入引擎:自选 exe / bat(如 ninfer、自配 llama.cpp)。可配置端口、工作目录、参数模板(支持
{model}、{port}、{host}、{thinkingEffort}等变量),试启动成功后为引擎添加模型行。 - 云端模型:类型选「云端」,填带
/v1的baseURL、API key 与模型清单;不占显存,网关转发;密钥写入data\secrets.json。
模型配置与加载¶
模型配置页覆盖上下文、KV 窗口、量化、主机 KV、投机解码(MTP / dflash)、视觉驻留模式、思考等级等。思考等级是否可调取决于引擎(config 或 argv 模式);网关可配置是否允许请求里的 reasoning_effort 覆盖。加载前会估算显存;不足时可仍强起。关闭时若有进行中的请求可选择等待或强制结束。
接入 DSH¶
控制台「接入 DSH」生成 provider YAML。将内容合并进 %USERPROFILE%\.dsh\profiles\desktop\cordis.patch.yml 里 llm-pi-ai 的 providers,baseURL 应为 http://127.0.0.1:8096/v1。apiKeyEnv: LACI_LOCAL_API_KEY 仅为占位,本地网关不校验 key。只导出 kind: chat 且支持工具的模型,避免 DSH 静默降级。改完后重启 DSH,模型选择器会出现本地模型。
安装与启用¶
方式 A:插件市场(推荐)¶
在 DSH 的 Plugins / 插件页面搜索 dsh-laci-engine,安装并启用,重启 DSH。市场安装走 npm 包,已包含 laci/。
方式 B:手动 zip 链接¶
- 将
dsh-laci-engine放到稳定路径,例如%USERPROFILE%\.dsh\plugins\dsh-laci-engine。 - 在 profile 目录用 DSH 自带 pnpm 链接:
cd $env:USERPROFILE\.dsh\profiles\desktop
pnpm add "link:$env:USERPROFILE\.dsh\plugins\dsh-laci-engine"
- 确认该目录
package.json的dsh.profile.bundles包含dsh-laci-engine。 - 重启 DSH,左侧栏应出现「模型调度」。
升级可替换插件目录或 pnpm update dsh-laci-engine 后重启;升级网页端后若 3102 仍被旧 node.exe 占用,需在任务管理器结束该进程或重启 DSH,否则会复用旧控制台。从旧版 <插件根>\data 迁数据时,可复制到 %USERPROFILE%\.dsh\laci-engine,或在 profile 中设置 console.home。
修改端口¶
在 profile 的 cordis.patch.yml 中可改插件端口,须与 config.json 一致:
- id: laci-engine
config:
console:
port: 3102
gatewayPort: 8096
console.port 对应 config.json 的 consolePort,gatewayPort 对应 gatewayPort;不一致时插件会明确报错。
典型用法流程¶
- 安装并启用插件,重启 DSH。
- 点左侧栏「模型调度」,等待控制台在 3102 就绪(若显示「控制台没在跑」,点「启动控制台」或查
logs\console.out.log)。 - 用「导入整合包」或「导入引擎」登记本地引擎与模型,试启动通过后「导入」/「保存」。
- 在引擎卡片对模型点「加载」,按需改 KV、思考等级等配置。
- 点「接入 DSH」,复制 YAML,粘贴到
cordis.patch.yml的llm-pi-aiproviders,确认baseURL为 8096,重启 DSH 后在对话里选本地模型。
适用场景与注意¶
适合谁:主要在 Windows 上用 DSH Desktop 0.2.x,希望用统一界面管理多引擎、多模型,并通过单一 OpenAI 兼容端点接到 DSH 的开发者。
运行权限:插件随当前 DSH 进程权限运行;控制台 API 能执行任意引擎程序、列举目录、调用系统对话框。README 要求控制台只监听 127.0.0.1,不要把 3102 / 8096 暴露到局域网,也不要在不可信环境放宽 host 配置。安装前应阅读源码与 MIT 许可证,自行判断是否可信。
排错要点:左侧栏无入口时检查插件启用与 bundles;DSH 看不到模型时重新「接入 DSH」并核对 8096;对话 503 时回控制台看模型是否已加载、实例是否 error;8 GB 显存需留意 KV 窗口与 MTP/视觉开销。
package.json 声明依赖 dsh >=0.2.0 <0.3.0,与 DSH 0.2 线对齐使用。
结尾¶
dsh-laci-engine 把 LACI 调度台收进 DSH:侧边栏入口、内置控制台、引擎/模型导入与 OpenAI 兼容网关一条链路,减少手工改 provider 与端口对齐的成本。