Rohan Paul

每次克劳德回答时，它都会悄悄地问自己是否只是帮助某人造成了伤害，而这个私人裁决将由人类的审阅者做出。 Anthropic 最准确的误用检测器是 Claude Mythos Preview 分类器，它在每次裁决之前都会读取其所有安全策略，这使得在每次聊天中运行的成本太高。 因此，Anthropic 训练 Claude 在没有策略或推理的情况下复制其判断，并且在《神鬼寓言 5》流量中，该副本与检测器标志的 78% 相匹配，对于高优先级案例，其匹配率上升至 94%，误报率为 1%。