前言¶
在 DeepSeek Harness(DSH)里接本地推理,常见做法是单独开终端执行 strata launch、手改 strata-<model>.json,再用浏览器或 curl 看 /health、/metrics。路径一多,CLI 版本、运行配置目录、组件目录容易对不齐;改完 JSON 不知道当前进程是否仍用旧参数。社区维护的 AI管理中心(dsh-strata-ai-center)把启停、参数编辑、组件升级和监控收进 DSH 左侧栏,Host 端直接调用本机 strata CLI 与引擎 HTTP 端点,面板数字来自真实响应而非占位 UI。
下面介绍插件定位、能力、安装方式与典型用法。
这是什么¶
dsh-strata-ai-center 是 maintainer newgacker 发布的 DSH 插件(分类:模型推理;许可证 MIT;当前 package 版本 2.5.12)。它面向已安装 Strata(Niko1221/Strata) 的用户:在 DSH 左侧 「记忆系统」 下方增加 「AI管理中心」,内含 监控 (Monitor)、模型与参数 (Models)、升级 (Update) 三个页面。v2.0 起路径、命令与字段与本机 Strata 安装对应;v2.1 起支持基于 strata update 的组件升级与回滚。
插件清单见 GitHub:newgacker/dsh-strata-ai-center。社区目录页:skillhub.cn 插件页(独立站点,与 DeepSeek / 幻方无官方从属关系)。
与本机 Strata 如何对齐¶
插件会按优先级自动探测 Strata 安装位置:STRATA_* 环境变量、Windows 常见路径、~/.local/share/strata/terminal/current(Linux/macOS)等;v2.5.5 起还识别根级 bin/strata 与「python + serve」型终端目录。strata-<model>.json 的发现规则与 Strata 自带 strata_control/discovery.py 一致,保存时写回文件实际所在目录。
首次使用应在 模型与参数 → 安装路径 核对 CLI、组件目录、数据目录与运行配置目录;每个字段会标注来源(已保存 / 环境变量 / 自动探测 / 设置文件 / 未找到),不对时可手动修正并保存固化。面板自身状态写在 ~/.dsh/strata-ai-center/settings.json。
核心功能¶
监控页¶
数据来自引擎真实端点,而非模拟曲线。
- 吞吐:解码与预填充 tokens/s(
/v1/status的last_timings或/metrics的live/rates),以及 MTP 接受率。 - 硬件:
/v1/telemetry的 GPU 与 RAM;显存余量可看/metrics的vram_free_mib;必要时后备nvidia-smi。 - MoE 与分层:
/metrics中的专家槽位、KV 格式、四级分层(显存 / 系统内存 / CPU+PCIe / SSD N-gram)等。 - 基准与日志:向
/v1/chat/completions发真实短请求读timings;尾部读取%LOCALAPPDATA%\Strata\launch\*.engine.log(Windows 路径以本机为准)。
模型与参数页¶
- 模型目录:内嵌 terminal
setup.py模型表,含体积、内存需求,并通过扫描strata-<id>.json标记是否已安装。 - 容量评估:按实时 RAM/显存与
fitOn规则估算 vram/ram/spill 与 KV 占用。 - 引擎旗标:表单映射到
strata launch的--context、--kv、--vision、--mtp、--access、--port、--api-key及多项--set(如kv-resident、vram-reserve-mib、pcie-frac、spec等)。初始值 v2.1.1 起从磁盘上的strata-<model>.json回读;引擎在线时对照/config,不一致项会黄色提示,多数改动需重启后生效。 - 环境变量与服务默认:
STRATA_*写入配置env块;采样、推理预算、idle_unload_s等对应serve/runconfig.py可编辑键。在线保存时可POST /config由服务端校验。
启停与升级¶
启停侧,插件调用 strata launch ... --yes --no-tui(在线时自动加 --restart),停止用 strata launch --stop;还可 POST /unload 释放显存,或打开 http://127.0.0.1:8080/ 内置控制台(端口以配置为准)。
升级页 v2.1 起对接 strata update --check / strata update 与 strata components rollback:检查更新、停服后后台升级(进度日志在 %TEMP%\dsh-strata-ai-center-update.log)、在保留 previous 组件时可回滚。运行中引擎版本与 components/.updates/state.json 不一致时,页面会提示升级只改组件目录、需重启才加载新引擎。
安装与启用¶
前置条件:本机 strata launch 可用,且已安装 DeepSeek Harness。
README 给出三种方式,任选其一。
方式一:从 GitHub 安装(推荐)
维护仓库地址为 https://github.com/newgacker/dsh-strata-ai-center.git。官方示例命令形式如下(README 中以占位符表示 fork 场景):
dsh plugin --profile desktop add https://github.com/<你的用户名>/dsh-strata-ai-center.git
安装本仓库时,将 URL 换为上述 newgacker 地址;也可在 DSH「插件 → 添加插件」中粘贴该仓库地址。
更新插件:
dsh plugin --profile desktop update dsh-strata-ai-center
方式二:从 npm 安装(发布后可在 DSH 插件市场搜索)
dsh plugin --profile desktop add dsh-strata-ai-center
方式三:本地目录
dsh plugin --profile desktop add <本插件目录>
powershell -ExecutionPolicy Bypass -File .\install-plugin.ps1
安装后重启 DSH 桌面进程(README 写为重启 DeepSeek Harness.exe),确认侧栏出现「AI管理中心」。需要代理拉模型或组件时,可在「安装路径」卡片勾选代理与 HF 镜像。
典型用法¶
- 打开 模型与参数,确认安装路径与当前
strata-<model>.json目录;调整 context、KV、access、port 等并保存。 - 在面板启动模型(底层等价于
strata launch,例如 README 开发机示例):
strata launch --model iq3_s --context 128k --kv int8 --vision cpu --mtp on --access local --port 8080 --yes --no-tui --set kv-resident=65536 --set vram-reserve-mib=1280
- 切到 监控,观察
/v1/status、/v1/telemetry、/metrics聚合结果;需要时可跑面板内基准请求。 - 改参数后若黄色差异仍在,先 停止 再 启动;若实例由 Strata 自带启动器用另一份 launch 档案拉起,面板会红条警告,此时面板保存不会写入实例实际档案。
- 在 升级 页检查官方源更新,停服后执行升级;失败或异常时可查看
%TEMP%\dsh-strata-ai-center-update.log,必要时在保留 previous 时回滚。
适用场景与注意¶
适合:已在 DSH 日常开发、同时用 Strata 跑本地大模型,希望少切窗口、少手改 JSON、又能看到真实 telemetry 的用户。
注意:
- 插件 Host 端以 当前 DSH 进程权限 执行
strata、读写配置与日志;安装前请阅读源码与 MIT 许可证,确认可接受其对本机路径与网络的访问范围。 --access lan等选项涉及监听地址与防火墙;改 access 只影响下次 launch,运行中实例需停服重启。局域网且 API Key 为空意味着无鉴权,README v2.5.11 起在面板有说明。- 升级/回滚操作的是组件目录;运行实例版本与
state.json不一致时,务必按页面横幅提示停服重启后再验证。
结尾¶
dsh-strata-ai-center 把 Strata 的 launch、运行配置与组件生命周期放进 DSH 侧栏,监控与参数表单对齐本机 CLI 与 HTTP 端点,减少「配置写了但进程没用上」的排查成本。