Rohan Paul
@rohanpaul_ai
关于递归自我改进的美丽路线图论文.
总结一下,我们已经看到 RSI 的片段, 但是完全的递归自我改进还没有在这里。
多数自我改进的AI仍然无法改进它如何改进
说今天大多数东西称为"自我改进AI",只是将改进过程的部分自动化.
真正的魄力递归自我改进将意味着AI不仅能够持续改善输出,提示,工具,或代码,最终决定如何发现,测试,保存未来改进的机制.
AI在回答知识和推理问题方面已经非常强大,但在用工具、软件和不断变化的环境来 未完成长期、多步骤的任务方面仍然软弱得多。
文件描绘了5个级别的进展,从执行人设计的改进到改变以后各轮使用的改进者、评价者或研究政策。
最后一个步骤使进程具有递归性:成功的更新改变如何发现或判断未来的更新。
调查发现了较低水平的广泛证据,而经验驱动的学习和部署适应更依赖域,端到端的L5证据仍然集中在有界限的原型.
