Anthropic 研发 FlashProve 系统，用密码学证明 AI 模型身份

核心事实

据 TechCrunch 报道，Anthropic 于 11 月 3 日（当地时间）发布博客文章称，正在开发一套名为 FlashProve 的开源系统，用于验证某段输出究竟由哪个 AI 模型生成。该系统旨在提供研究者所称的「可证明推理」（provable inference），即以密码学方式给出数学层面的保证，让用户确认收到的回答确实来自自己以为正在使用的模型。

按设计，系统需要 AI 实验室为每个发布的模型公布一份「指纹」，之后可与具体输出匹配并进行密码学验证。研究人员称，指纹不会暴露模型权重，因此闭源模型厂商也能在不交出核心资产的前提下参与。

背景与影响

报道将这一机制类比为电子邮件的密码学签名：收件人可确认信息确实来自所声称的发送者。研究人员表示，FlashProve 能抵御冒充行为，即便冒充者是构建并运营该模型的实验室本身；它可用于防止 AI 公司为压缩成本而暗中换成更便宜的模型，或为抬高评测成绩而换成更贵的模型。系统还被设计得较为轻量，验证可在本地设备上完成。研究团队同时公开了详细技术规范和部分可运行代码，以开源许可证发布于 GitHub。

限制与来源

Anthropic 明确表示，相关研究仍在进行，目前没有在 Anthropic 或其他任何实验室部署该系统的计划。研究者在公告中称，这篇研究文章意在分享阶段性进展，而非一份已完成的研究议程，公开的目的是希望他人接手并改进。上述内容来自 TechCrunch 的报道及所引述的 Anthropic 博客文章，具体技术细节与许可条款请以官方发布和 GitHub 仓库的当前信息为准。