Anthropic

我们已经训练Claude在对话中标记潜在的滥用，这种技术我们称为自我评估。就在Claude回应之后，它会对对话进行初步的安全评估。 自从我们在六月开始使用自我评估以来，它已经发现了我们其他方法未能检测到的滥用情况