前言¶
用戶向 API 發起請求時,通常無法確認回覆是否真的來自服務商宣稱的那套權重,還是路由層爲降本替換的小模型,乃至被篡改的 token 流。只看輸出質量不足以判斷來源。可證明推理(provable inference,PI)的目標,是讓算力有限、且拿不到權重的驗證方,仍能檢查某段回覆是否由已承諾的模型產生。
2026 年 11 月 2 日,Anthropic Frontier Red Team 發佈研究進展,並開源原型系統 FlashProve:用零知識 succinct 論證(zkSNARK)等密碼學手段,在隱藏權重的前提下爲推理結果附帶可驗證證明。同期放出技術報告、協議說明、可執行代碼,以及 Lean 形式化陳述。下文按發佈內容說明系統定位、性能數據、交付物與侷限,並簡要討論對評測與合規場景的含義。
FlashProve 要解決什麼¶
PI 的常見實現路徑是 zero-knowledge succinct argument:服務商在回覆之外提交一段體積可控的證明,驗證方在 CPU 上快速校驗;若回覆與承諾模型不一致,校驗應失敗。權重不必暴露給驗證方,否則 frontier 模型的商業與安全問題會阻礙落地。
Anthropic 在文中將 FlashProve 定位爲「開源、偏性能的原型」,目的包括加速 PI 生態開發,並展示 zkSNARK 在大模型推理證明上是否具備實用吞吐。團隊明確這是階段性進展,不是已完成的研究議程,希望社區在此基礎上改進。
性能與實驗設置¶
技術摘要中的基準模型爲 Llama 4 Maverick(400B 參數 mixture-of-experts),權重爲 4-bit 量化,prefill 階段使用整數算術。在該配置下,單張 H100 生成證明的速度約爲 110 tokens/s;對 1,024 token 的請求,證明大小約 19 MB。
相對開銷方面,同一篇文章給出:證明階段的 GPU 時間約爲在 vLLM 上運行同長度 prompt 的 約 70–95 倍。團隊稱 prior 開源 PI 系統慢幾個數量級,並在正文第 6 節與既有工作對比;FlashProve 側強調在密碼學與安全文獻中的成熟工具之上做了新的工程與優化組合。
需要區分的是:系統承諾隱藏模型權重,不以隱藏模型架構爲目標。對模型做一次 commitment 後,針對每次推理輸出生成證明。
形式化與開源交付¶
大模型輔助優化複雜系統時,安全主張不易人工審閱。Anthropic 爲此在 Lean 中給出頂層可審計陳述,並附帶 Lean 定理的可視化工具,便於覈對聲稱的安全性質。
同日發佈的五類產物包括:本篇研究博文;詳細技術報告;協議規範文檔;可執行代碼(含 prover、C++ 快速 verifier、Lean 中可證明正確的 verifier);以及頂層數學陳述的 Lean 證明。代碼、Lean 證明與文檔以 Apache 2.0 許可發佈。
參與署名包括 Anthropic、EPFL、StarkWare、MIT、RESI、Succinct 等機構研究人員;Frontier Red Team 牽頭對外發布。
應用場景與侷限(據官方表述)¶
官方列舉的動機包括:獨立評測方在發佈前後測試時需確認被測模型即被服務模型;經第三方路由付費的客戶需要 token 來源完整性;以及遭受中間人篡改 token 流時的檢測需求。PI 還被聯繫到 AI pacing、監管與合規工具鏈——證明本身不替代政策,但可爲「是否按承諾模型運行」提供密碼學層面的可審計材料。
侷限在博文目錄中單獨成節(Limitations)。作爲中間成果,證明成本仍是純推理的數十倍量級,證明體積以 MB 計,部署與產品化路徑尚未在文中展開爲成熟服務。
對行業的客觀影響¶
在模型路由、評測可信度與合規節奏爭議持續的背景下,FlashProve 把「可驗證推理」從概念推進到可下載、可運行的開源實現,並給出 frontier 規模模型上的 H100 吞吐數字。對評測機構、企業採購與監管審計而言,多了一種與「服務商口頭承諾 + 黑盒 API」並列的技術選項;能否成爲默認基礎設施,取決於後續社區能否繼續壓低開銷、縮小證明體積,以及是否與具體合規條款對接。
技術報告與代碼入口見 Anthropic 研究頁「Progress on provable inference for large language models」(發佈日期 2026-11-02)。