Anthropic开源FlashProve:给大模型验明正身​ | FlashProve | Anthropic | 可证明推理 | 零知识证明 | zkSNARK | 形式化验证 | Lean

Original Media · 15m · 中文 · YouTube · Best Partners TV

本期速览

本期介绍 Anthropic 前沿红队与学术合作者开源的 FlashProve,一个面向大语言模型的可证明推理系统。它利用 zkSNARK 让用户在不获取模型权重的情况下,密码学验证指定模型确实产生了特定输出。采用离线承诺+在线证明两阶段设计,单次证明约 19 MB、CPU 验证仅 17 秒,虽比普通推理慢 70-95 倍,但较前人工作(如 VerInf 14.3 小时)实现数量级飞跃,为算力监管、防篡改、合规上岗等高可信场景打开落地窗口。

为你解答

PRO members can sign in and request more information — or their own version of this digest, tuned to what they care about.

Sign in to unlock

意想不到的发现

•

证明系统代码大量由 Claude 协作生成,团队用 Lean 形式化顶层定理来规避 AI 代码难逐行审计的问题。

•

MoE 架构反成优势:只需证明激活的专家(17B 参数),零知识还隐藏了激活了哪个专家。

•

采用事后批量证明而非流式证明,将承诺开销摊销到整个批次,使单张 H100 跑满成为可能。

•

70 倍开销在该赛道被视为突破:2017 年验 2 层 CNN,2024 年 zkLLM 验 13B 仅 2.5 tok/s,FlashProve 验 400B MoE 达 110 tok/s。

•

全链路仅依赖哈希函数(BLAKE2),无椭圆曲线,天然后量子安全;验证端几十秒跑完且无需 GPU。

本期要点

•

FlashProve 用 zkSNARK 证明:已承诺的权重在给定输入下确实产出了该输出,全程不泄露权重、中间激活、专家选择等隐私。

•

分两阶段:离线一次性承诺权重(~39 分钟),在线每请求生成证明(24 请求批次 ~223 秒,单 H100+24 CPU)。

•

证明约 19 MB,验证端无需显卡,24 线程 17 秒、单线程 21 秒即可完成。

•

性能为 vLLM 普通推理的 70-95 倍开销,但较前人工作指数级提升(VerInf 同规模需 14.3 小时、93.6 GB 证明)。

•

用 Lean 形式化验证了完备性、可靠性、零知识(单请求),但批量零知识未证、GPU 证明器与 Lean 描述等价性未证;可靠性仅赖验证器,代码错不影响可靠性。

•

工程关键取舍:MoE 稀疏性仅证明激活的 170 亿参数;事后批量证明摊销承诺开销;单卡流式从主机内存分块送显存;链接证明刷新编码防泄露。

•

局限:仅支持整数模型+贪婪解码、1024 token 上下文、架构不隐藏、侧信道未防、单卡无张量并行、事后证明只能事后发现篡改无法实时阻断。

精彩语录

“你付了钱,点了一个模型的名字,后台到底是谁在回答你,没有人能给你证明。”

▸ 精彩语录 · 0:11

“而 FlashProve 这次采用的是零知识简洁知识论证,英文缩写 zkSNARK,名字很绕,但它要同时满足两件事:第一件,证明本身不能泄露权重;第二件,证明要足够小、验证要足够快。”

▸ 精彩语录 · 1:35

“承诺这一步值得多说一句:一次性的证明,是算一遍给一份,下次重头再来。但是推理不是这样的,同一组权重要被上千万次请求反复引用,所以结构是先承诺、后证明。”

▸ 精彩语录 · 2:54

“70倍这个数字,单听着是有点吓人。2017年的 SafetyNets 验证的是一个两层卷积的 MNIST 小网络……而 FlashProve 是每秒 110 个 token、19MB 一份、几十秒验完。”

▸ 精彩语录 · 6:30

“为什么非要绕这一圈呢?因为这套系统的代码,大量是由 Claude 协助优化生成的。AI 写出来的复杂优化,人是很难逐行审的。”

▸ 精彩语录 · 10:03

“我觉得它的分量还是在'可核'这两个字上,速度只是让这件事能成立的前提。以前这条线的瓶颈就是性能,慢到根本没办法谈落地。现在压到了七十到九十五倍,才算是进入到了能谈落地的区间。”

▸ 精彩语录 · 14:32

章节

•

0:00 — 模型服务中的信任危机: 面对面交谈身份显而易见,但对着屏幕调用大模型时,用户无法验证后台究竟运行了哪个模型,第三方平台可能偷换模型或篡改输出,且仅凭回答质量无法分辨。

•

0:35 — FlashProve 概览与 zkSNARK 入门: Anthropic 红队开源 FlashProve(博客、技术报告、协议、代码、Lean 证明),采用 zkSNARK 实现可证明推理:零知识不泄露权重,简洁性保证证明小、验证快,仅依赖哈希函数实现后量子安全。

•

1:08 — 两阶段协议:离线承诺与在线证明: 离线阶段服务商一次性生成权重承诺(~39 分钟),钉死参数指纹;在线阶段每请求返回输出+证明,用户凭承诺、输入、输出、证明即可自验,无需权重与算力。

•

2:09 — 密码学构造:IOP、Merkle 树、Fiat-Shamir 变换: 用交互式预言机证明(IOP)将大段计算压缩为少数点检查,Merkle 承诺压短证明,Fiat-Shamir 变换消除交互生成非交互证明,全链路仅靠 BLAKE2 哈希,无代数结构依赖。

•

4:35 — 非线性激活的处理:查表论证: 矩阵乘法可写成多项式约束,softmax/SiLU 等非线性在有限域表达代价高,采用预置公开查表,证明者只需说明每对输入输出均在表中即可。

•

5:57 — 基准测试:Llama 4 Maverick(400B MoE,4-bit 量化): 单 H100+24 CPU 跑 24 请求批次耗时 223 秒(110 tok/s),证明 18.78 MB,CPU 验证 17 秒。较 vLLM FP8/8xH100 慢 72 倍,但远超 VerInf(14.3 小时、93.6 GB、验证近一天)。

•

7:43 — 工程取舍:MoE 稀疏性、批量事后证明、单卡流式: 仅证明激活的 170 亿参数;事后并行批量证明摊销承诺开销;权重 232 GB 驻主机内存分块流入 80 GB 显存;链接证明周期性刷新编码防读取次数超限泄露。

•

9:36 — Lean 形式化验证:完备性、可靠性、零知识: 协议与安全性质机器核查:诚实方必通过、伪造证明必拦截、除'算对了'外零泄露。AI 生成的 GPU 证明器代码未证等价,批量零知识未证,但可靠性仅赖已验证的验证器。

•

11:34 — 边界与局限:整数模型、贪婪解码、上下文、架构泄露、侧信道: 仅覆盖整数贪婪解码,非生产常用浮点采样;1024 token 窗口远小于实战;架构不隐藏;时序等侧信道未防;单卡无张量并行;事后证明只能事后发现篡改。

•

12:26 — 事后证明的威胁模型:检测而非阻断: 证明保证篡改会被发现,不保证不发生。攻击者可在证明失败报警前泄露信息;日志可被伪造;属于纵深防御一层。重算仅增 1%-1.5% 开销。

•

13:37 — 落地场景:算力监管、防篡改、合规上岗、审计溯源: 监管方可审计算力用途;服务器被入侵或强模顶替弱模会露馅;企业内部确认权重版本;客户核验安全扫描真实性;失败证明可作漏洞挖掘投入证据;合规绑定模型与请求。

•

14:30 — 可信硬件 vs 纯软件密码学;Anthropic 时间线: 两条路:TEE 信芯片,ZK 信数学。FlashProve 属纯软件密码学。Anthropic 定 2026-09-30 交付原型,后改口称'推理验证',仍是研究原型,离开箱即用的 API 凭证尚远。

出场人物

•

大飞 — 主播