前言¶

大模型線上推理常把多條請求拼成一批跑，硬件算得更快，但數值路徑會隨「這一批裏還有誰」而變：同一請求的浮點累加順序、內存佈局都可能不同，輸出便難以逐比特對齊。對審計、對拍基線、對需要嚴格一致下游環節的場合，這是實打實的落地痛點。arXiv 論文《BlockLock: Reproducible LLM Inference with Fixed Batch Geometry》（arXiv:2611.06977）於 2026-11-04 提交，討論的是：在保留共享批處理預填充的前提下，只把「被保護請求」所見的幾何結構釘死，從而在同伴請求變化時仍保持該請求輸出按比特一致。下面按論文摘要整理機制要點與實驗設置，並順一句和常見基線的取捨。

論文與發佈信息¶

稿件歸類 cs.AI，並帶 cs.CL 主題標籤。署名作者爲 Xiuyuan Qi、Pedro Reviriego、Javier Conde、Shanshan Liu。版本記錄顯示 [v1] 提交時間爲 UTC 時間 2026-11-04 13:40:05（摘要頁記爲 Wed, 4 Nov 2026 13:40:05 UTC）。正文入口與 DOI 可在 arXiv 條目頁查看：https://arxiv.org/abs/2611.06977，以及 https://doi.org/10.48550/arXiv.2611.06977。

問題設定：要的是「同伴在變，目標不變」¶

論文把可復現推理寫成一條硬約束：某個請求的輸出必須不隨同一批內其他請求的變動而改變。摘要裏對照了兩類已有代價：一類是用批處理不變（batch-invariant）內核，把每個算子都約束住；另一類是類似 CoRun 基線那樣把預填充隔離開、用固定形狀的解碼，代價是放棄共享預填充算力並在解碼側做填充。BlockLock 的路線是保留共享的批式預填充，只對被保護請求釘死其數值路徑所依賴的「幾何」。

BlockLock 兩種模式在做什麼¶

先做概念對齊：「固定幾何」指的是被保護請求在計算圖裏看到的塊排布、行寬或打包方式按部署約定固定下來，而不是整批所有算子一律改成批不變實現。

1、BlockLock-Rows：用固定行寬（fixed-width rows），解碼階段仍可對所有請求做批處理解碼；在摘要所述的每部署合同（per-deployment contract）下，同伴更換時目標請求的比特級輸出仍與合同一致。

2、BlockLock-Pack：採用終端錨定的打包（terminal-anchored packing），給被保護段旁掛隔離用的啞段（dummy segment），再取出該請求的 KV 狀態做僅針對目標的解碼。同樣在所述合同下，同伴變動不改變目標輸出比特模式。

摘要強調：與「整批批不變內核」相比，這種做法不必爲全請求定製內核實現，約束面主要集中在被保護請求上。

實驗與報告數字（均來自論文摘要）¶

模型側覆蓋五款稠密模型：Qwen3-8B、Qwen3-14B、Llama-3.1-8B-Instruct、Gemma-3-4B-IT、Gemma-3-12B-IT。部署側在三套單 GPU 環境上評估：NVIDIA A6000、A100、H100；並補充了初始張量並行實驗（兩臺 NVIDIA A6000）。評測數據包含 tinyBenchmarks 與 BFCL。摘要寫明：在報告的測試中，兩種模式均保持目標序列一致，且 Top20 logit 的比特與基線一致。

在與 vLLM Batch-Invariant 比較、並在「等量交付工作」（equal delivered work）條件下，BlockLock-Rows 相對該基線的摘要數字爲：延遲降低 53.5%–55.0%，吞吐提高 115.2%–122.2%。論文同時說明相對批不變內核路線，其優勢之一是不需要自定義內核實現。

對工程和排產的一點含義¶

把可復現性從「整模型、整批算子一律批不變」收窄到「聲明要保護的請求及其幾何合同」，運維上更接近「給關鍵流量打標、給部署寫清合同」這一條線；共享預填充還在，吞吐與延遲的權衡便直接出現在論文數字裏——至少對摘要所報配置，BlockLock-Rows 相對 vLLM 批不變基線給出了明確區間的改進。張量並行只寫了初始實驗，是否覆蓋更大集羣與更多並行策略，需讀全文再定。

生產側若採納，仍要把「per-deployment contract」裏的幾何細節、保護集合、與調度器的交互寫進變更說明與迴歸集合；摘要未替代具體實現手冊，但能提供一個可覈對的公共表述與數據源。

來源：arXiv 條目頁 2611.06977 所收錄之論文摘要及元數據（提交日期、作者、主題分類等）。