前言¶
在本地智能体开发中,直接调用远程 API 处理高 Token 消耗的任务(如文本压缩、会话标题生成)成本较高。DSH 的插件化架构允许用户自定义行为。这里介绍一个路由插件,它允许将这类“不紧要但耗 Token”的任务拦截并转发给本地运行的 LM Studio。
插件介绍¶
dsh-lmstudio-router 是一个针对 DSH Web GUI 的本地模型路由器,由 xiaoyizhuang03-droid 维护。它将非关键但 Token 消耗大的请求(批量文本工作、压缩、会话标题)路由到本地 LM Studio 模型,通过其 OpenAI 兼容的 /v1 端点执行,并在 LM Studio 未运行时自动启动。
核心功能¶
- 智能路由:将 token-expensive 的任务(文本工作、压缩、会话标题)路由至本地 LM Studio 模型。
- 自动启动:当 LM Studio 未运行时,插件会自动启动它。
- 上下文适配:将每个本地请求适配到模型的上下文窗口(默认 8192)。
- 零依赖:这是一个无依赖的主机插件。
安装与启用¶
通过命令行添加插件:
dsh plugin --profile web add link:<path-to-this-package>
安装后,需要在配置文件中添加覆盖。编辑 ~/.dsh/profiles/web/cordis.patch.yml:
- id: lmstudio-router
name: 'dsh-lmstudio-router'
config:
baseUrl: http://127.0.0.1:1234/v1
model: qwen3.5-9b
contextWindow: 8192
autoLaunch: true
保存文件后,重启 dsh web 服务。
典型用法¶
配置生效后,可以通过在用户消息的开头使用强制路由标记来控制请求去向。支持的标记包括:
- [local] 或 local:
- [remote] 或 remote:
例如,发送包含 [local] 的消息,会将该任务路由至本地 LM Studio;否则使用默认路由策略。
适用场景与注意事项¶
适用场景:
- 需要处理大量文本摘要、压缩等高 Token 消耗任务。
- 希望利用本地算力,降低远程 API 调用成本。
注意事项:
- 运行环境需满足 Node.js 版本要求(^22.19.0 或 >=24.0.0)。
- 本地 LM Studio 必须运行在 http://127.0.0.1:1234/v1,并配置 OpenAI 兼容的 /v1 接口。
- 插件以当前 dsh 进程权限运行,安装前建议检查源码与许可证。
结语¶
这是一个轻量级的路由方案,适合希望节省远程 API 成本、利用本地算力的开发者。更多细节可访问 GitHub 仓库。