Rohan Paul
@rohanpaul_ai
METR 的最新报告透露了很多信息。
Anthropic 的递归自我改进 (RSI) 已从理论转向可靠的测量，早期循环的运行速度约为 2 倍。
他们花了 11 周时间查看了 Anthropic 的内部研发数据并采访了其主要研究人员。
> Anthropic 目前正在以 2024 年至 2025 年速度的两倍左右的速度改进其模型。
> 克劳德本身就是主机。 METR 的最佳猜测是将当前加速的大约 80% 归因于 Anthropic 自己的人工智能使用，并且排除了训练计算更快增长的原因。
> Anthropic 自己的 8 月份公开风险报告低估了事情发展的速度。 METR 在另一项审查中得出了这一结论，该审查将公开报告与私人版本和其他非公开数据进行了比较。
> METR 认为没有任何可能在 12 个月内减缓这一循环，算法、计算或数据不存在瓶颈。编辑后的证据还暗示加速度可能已经超过 2 倍并继续攀升。
> 员工自我报告称，Model 4 的生产力提高了大约 12 倍，研究人员看到了人工智能单独完成关键培训工作的“生命迹象”。一个名为 Mythos Preview 的模型是第一个可用于自主实验的模型。
> Anthropic 编辑了 METR 认为最有说服力的大部分证据，称这可以帮助竞争对手走得更快。它还取消了计划中的检查，检查其计算如何在功能和安全之间分配。
