dsh-context-budget:DSH 模型上下文窗口与压缩阈值设置
`dsh-context-budget` 插件旨在解决 DSH 中手动配置第三方网关时模型 ID 与目录不匹配导致的默认上下文窗口问题。该插件为 pi-ai 提供商卡片增加了直观的配置组,可设置上下文窗口、压缩阈值(支持保留预算)及思考努力控制。安装后,配置会自动写入 `cordis.patch.yml` 并进行校验,支持多种供应商的思考级别调节。插件仅适用于 pi-ai 路由,卸载后持久化配置需手动清理。
阅读全文dsh-context-budget:保持本地模型上下文在 GPU 可控范围内的插件
`dsh-context-budget` 插件旨在解决本地模型在长上下文下性能急剧下降的问题。它通过测量预填充速度,设置了硬性 token 上限、首字延迟及冷预填充时间等检查机制。当超限时,支持打印警告或执行压缩,从而将上下文控制在 GPU 可处理的范围内。该插件与 `compaction-basic` 共存,提供 `/context-budget` 命令监控状态,帮助用户优化本地大模型的使用体验。
阅读全文