Rohan Paul

关于递归自我完善的漂亮路线图文件。 结论是，我们已经看到了 RSI 的一部分，但完整的递归自我改进还没有到来。 大多数自我改进的人工智能仍然无法改进它的改进方式 说当今大多数所谓的“自我改进人工智能”只能实现部分改进过程的自动化。 真正的递归自我改进意味着人工智能不仅可以持续改进其输出、提示、工具或代码，而且最终可以改进决定如何发现、测试和保留未来改进的机制。 人工智能在回答知识和推理问题方面已经非常强大，但在使用工具、软件和不断变化的环境执行长期、多步骤任务方面仍然较弱。 该论文描绘了 5 个级别的进展，从执行人为设计的改进到更改后续轮次中使用的改进器、评估器或研究策略。 最后一步使该过程递归：成功的更新会改变发现或判断未来更新的方式。 该调查发现了较低级别的广泛证据，而经验驱动的学习和部署适应更加依赖于领域，并且端到端的 L5 证据仍然集中在有界原型中。