Rohan Paul

良好的安全工作越来越意味着良好的搜索。 White Circle 发布了 RISE，这是一款自动化工具，用于测试 AI 图像生成器是否可以被欺骗，制作出他们自己的规则禁止的图片。 它搜索图像模型的攻击策略。开放的攻击者模型将每个策略转化为许多提示，并且该策略根据其中的多少个提示而获得荣誉。 这使得搜索即使针对几乎阻止一切的模型也能进行学习。 代码是开放的，它使用的模型是公开的，防御者现在可以在自己的图像模型上运行它。