Rohan Paul
@rohanpaul_ai
Anthropic 刚刚开源了 FlashProve,它可以让你检查哪个 AI 模型实际上写了回复
在普通CPU上可以检查。
例如如果你通过经销商购买顶级人工智能模型,你无法检查它是否悄悄提供了更便宜的模型。 Anthropic 的 FlashProve 让服务器以数学方式证明哪个模型做出了回答。
Anthropic 在 Meta 的 Llama 4 Maverick 上进行了测试,这是一个大型 400B 参数开放模型,其中单个 Nvidia H100 GPU 以 110 个令牌/秒的速度生成证明,每个令牌约 19MB。
常规 CPU 在大约 17 秒内检查每个证明,而 VerInf(已知的唯一证明该模型的早期系统)制作了 93.6GB 的证明,检查时间几乎需要一天。
Claude 构建了该系统,由于其代码难以审计,安全保证在 Lean 4(一种校对语言)中进行了数学证明,