你下单时买的是顶配模型,回你话的可能是个便宜的小模型。这种“挂羊头卖狗肉”的做法,在接口转售的链条上不算新闻,麻烦的是用户根本没有办法证明——模型自报家门的那个版本,本来就是它自己生成的。
11月2日,Anthropic 公布了一项名为“可证明推理”的研究,同时把原型系统 FlashProve 以 Apache 2.0 协议开源了。它要治的就是这个赖账问题:服务商不必交出模型权重,用户也能验证这条回答确实出自那款模型。
先给权重按个手印
整套流程的第一步是离线完成的。模型上线之前,服务商在单张 H100 上跑大约39分钟,用零知识编码给全部权重生成一个承诺值,相当于给这个模型版本按了一枚数字手印。
手印公开,权重仍然藏着。哪怕只改动一个参数,这枚手印就对不上;反过来,只看手印也推不出权重长什么样。这是后面所有验证能够成立的地基。
此后用户每次提问,服务商在回复后面附一份零知识证明,把“这枚手印”“这段输入”“这段输出”串成一条链。用户可以拿着这几样东西自己验,既不用下载权重,也不用把模型重跑一遍。
验一次要多久
测试用的模型是 Meta 的 Llama 4 Maverick,4000亿参数的混合专家结构,4比特量化,每个词元实际激活约170亿参数。
在单张 H100 上,证明的生成速度约为每秒110个词元。一次1024个词元的请求,证明文件大约19MB。验证端不需要显卡,24个线程的处理器跑17秒左右就能验完一份。
代价也明摆着:和用常规推理框架直接跑一遍相比,生成证明要多花大约70到95倍的显卡时间。换句话说,为了证明“这句话是我说的”,服务商要再付七十倍的算力账单。
它证明不了对错
这一点需要说清楚:FlashProve 证明的是来源,不是内容。它能让“偷偷换成便宜模型”这件事当场露馅,但回答本身是对是错、有没有编造,它一概不管。
它也不适合被当成成熟产品看。研究团队自己列的局限包括:目前仍是研究原型,能验证的上下文长度只有1024个词元,模型做了整数化与贪心解码处理,快路径代码与形式化证明还没有一一对应上。
更现实的用途可能在审计侧。做安全评测的人最怕的一件事,是评测对象和线上部署的不是同一个模型——如果连这个前提都无法确认,前面测出来的分数就都悬空了。对监管方而言,一套不依赖服务商自觉的核验工具,比一份自我声明有用得多。
什么时候轮到你用
短期不会。70倍的算力开销,没有一个商用接口愿意常态承担,更可能先落在合规审计、政府采购、金融医疗这类“必须说清楚后台跑的是谁”的场景里。
但如果这条路走下去,方向是可以想见的:以后调用模型,可能像收快递一样附带一张可查的凭据。你不必信任中间商,只需要验一下那张凭据。
在那之前,普通人能做的还是老办法——同一段提示词,换个服务商对比一下。差别大的时候,你至少知道该怀疑谁。