BlockLock:在共享批预填充下用固定几何约束换输出级可复现

arXiv:2611.06977(2026-11-04提交)提出BlockLock:在共享批预填充同时固定被保护请求所见几何,给出BlockLock-Rows与BlockLock-Pack两模式;在五款稠密模型与A6000、A100、H100单卡及双卡张量并行初测上,报告目标序列与Top20 logit比特一致;BlockLock-Rows在等量交付工作下较vLLM Batch-Invariant降低延迟约53.5%–55.0%、提高吞吐约115.2%–122.2%,且不依赖整批自定义批不变内核。

阅读全文