Rohan Paul

OpenAI 刚刚发布了一项关于人工智能安全的全球协调提案。 它要求美国领导一个能力评估、风险评估、人力监督和常见事件报告的国际框架。 OpenAI 表示，标准应该跟踪 RSI 相关的能力增益以及实验室内部自主进行的研究量，包括立即进行人工审查的阈值。 它警告说，更多的自主研究可能会变得过于不透明，以至于人类无法进行有效监督。 这一时间与美中就具有国家安全意义的人工智能事件拟议通知机制进行的单独会谈重叠。