Anthropic 对使用政策做了一年多来的第一次修改，用来覆盖新的高风险滥用，包括选举干扰、武器开发、监视，以及健康和金融用途。The Verge 报道，其中一项主要变化是禁止对 Claude 持续且无必要的虐待或残忍行为。 去年八月，公司曾说允许 Claude 结束与持续有害或辱骂用户的对话，作为对模型福利的研究。这次更新写明，终止对话仍是主要执行方式。Anthropic 没有评论会不会有进一步措施，例如封禁账号。公司写道，这条新规只适用于极端情况：用户反复残忍对待模型，而且看不出目的。它不适用于常见的不满、反驳、阴暗的创作题材，或模型测试与研究。
[1]
在模型福利之外，Anthropic 把原先分散的限制收进一条新禁令，针对欺骗性的商业或政治活动，限制掩盖信息背后的人，或用虚假账号和帖子放大内容。选举部分禁止欺骗选民和干扰选举，包括散布关于候选人或如何投票的错误信息、冒充候选人或选举官员，以及试图压低投票率。 公司说，使用政策一直公开禁止用 Claude 开发武器，但已经看到多次试图用它编写武器指导和武器控制软件。新政策把禁令扩大到让武器能够工作的软件和部件，以及给无人机和其他自主载具装弹这类行为。上次威胁情报报告认为，有人越来越多地用 Claude 做监视，以识别和追踪政治异见者，因此公司把监视禁令写得更明确：未经同意追踪他人是禁止的，无论是实时追踪还是分析已经收集的数据。Claude 不能用来决定或建议在执法或刑事程序中调查、逮捕或起诉谁，也不能用来建造或改进为监视而设计的工具。
[1]这些规则对某些政府客户的合同可以改。Anthropic 写道，如果公司判断合同里的使用限制和保障足以降低潜在伤害，就可以调整。公司此前与美国军方有过合同。另外一条新规则是：当模型连接到会自主采取物理动作、并且可能造成伤害的硬件时，必须有一名合格操作员能够观察设备并在需要时停下。The Verge 注明，文章没有说这名操作员是否必须是人。
[1]