inference-quantization:量化 checkpoint 并用双门禁证明达标

xiciyang 的 DSH 工作流插件 inference-quantization,在容器内默认用 llmcompressor 做 AWQ+INT4 PTQ,以无泄漏校准切分、源模型结构预检与测量成立性门禁避免「假零损失」,经 MCP 调用 inference-serving 做真实端点性能验证,支持有界降级、哈希链审计与回滚。本文基于官方 README 介绍安装、quantize/validate 用法与适用边界。

阅读全文