Anthropic

安恒新研究：大语言模型的可证明推理进展。 在这里，我们介绍 FlashProve。基于已建立的密码学技术，FlashProve 允许开发者验证给定的响应是否来自特定的 AI 模型。它在效率上远超以往开源方法。 这些证明具有多种应用。例如，它们可以使攻击者更难劫持聊天，或者让安全评估者验证他们测试的模型是否与提供给客户的模型相同。 完整的文章请见这里：https://t.co/OIZWPb6QZa 在可证明推理方面进一步的进展，可能是提高 AI 部署信任的重要组成部分。为此，我们将开源 FlashProve 的代码，链接在此：https://t.co/7ky3Ir8V06 我们感谢合作伙伴：Alessandro Chiesa、@GiacomoFenzi、@gwberg95、@miranda__christ、Rahul Dalal (https://t.co/pjWKLHWXyz) 和 Ben Mayer (@transmissions11)。