BlockLock:在共享批預填充下用固定幾何約束換輸出級可復現
arXiv:2611.06977(2026-11-04提交)提出BlockLock:在共享批預填充同時固定被保護請求所見幾何,給出BlockLock-Rows與BlockLock-Pack兩模式;在五款稠密模型與A6000、A100、H100單卡及雙卡張量並行初測上,報告目標序列與Top20 logit比特一致;BlockLock-Rows在等量交付工作下較vLLM Batch-Invariant降低延遲約53.5%–55.0%、提高吞吐約115.2%–122.2%,且不依賴整批自定義批不變內核。
閱讀全文