Nathan Lambert

叹气。 我写了下面这篇帖子，但后来没有发布，因为我厌倦了那些与Anthropic有相同安全观的人一贯的反对。我想这可能意味着我应该发送它。开始吧！ 这篇文章相当唯我论，并没有在讨论中适当地考虑最近的网络风险事件。我很难看着美国像Anthropic这样的前沿实验室没有能力考虑其他安全方法以及事情可能的发展方式。 It insinuates that Z ai (Chinese lab, builds GLM series) doesn't really care about safety and is reckless to take their business strategy. 说诸如“鉴于这些证据，我们认为国家行为者和非国家行为者都可能使用像GLM-5.3这样的模型造成现实世界的伤害。”以及“这与其他同类能力的AI模型不同，所有这些模型都是在安全防护或通过有限访问计划下发布的。”，而封闭模型虽然在更多已记录的网络攻击中被使用，但这只是回避了有趣的部分。 问题。 一种合理的观点是，开放模型权重和封闭模型 API（带有某些安全防护措施）都更容易被滥用，而不是 API 模型更接近安全。"开放危险，封闭安全"这个说法更接近于"开放不安全，封闭不安全"。 封闭模型具有更强的能力和更强的安全防护，但如果两者的防护漏洞百出，更强的能力部分在净伤害方面可能更重要。 同时，正如作者确实承认的那样（谢谢——这是进步！），没有极端网络防护措施的开放模型对于在经济中快速传播网络准备至关重要——因为像玻璃翼计划这样的项目在让所有关键行业加入方面并不完美。 会有更多类似的情况，就像《Fable》发布时，亚马逊找到了一种变通方法，使他们能够访问通过 API 提供的模型的全部功能。 总体来说，这篇博客在其狭窄的角度上是合理的，但在复杂、快速发展的媒体生态系统中，它是强化某种类型安全思维的非常有效的工具。