Arvind Narayanan

重新分享我们关于人工智能代理评估科学的论文，因为 PHP 漏洞就在我们上周宣布该论文时发生，并且我们的服务器全天被关闭以升级 PHP 🫠 PDF：https://sage.cs.princeton.edu/trends/emerging-trends-paper.pdf 网页：https://sage.cs.princeton.edu/trends/ 博客：https://www.normaltech.ai/p/new-paper-emerging-trends-in-ai-agent 人们越来越呼吁独立和嵌入式人工智能评估，尤其是人工智能代理。但还有很多事情尚不清楚：什么是“良好”的评估，首先需要评估什么，以及如何最好地协调和支持大量涌入新兴评估生态系统的人。 我们普林斯顿大学的团队大约三年来一直致力于改善人工智能代理评估的状况。我们与在斯坦福大学、英国人工智能安全研究所和布鲁金斯学会做过基础评估工作的人合作。我们的论文标题为人工智能代理评估的新兴趋势。我们综合了科学和方法、研究议程和评估生态系统三个维度的趋势，旨在帮助那些正在提高这一新范式技能的人。我们还旨在向评估者、资助者和公众提出一系列问题，并提供可行的建议。 作者：@flxcn、@steverab、@PKirgis、@nityndg、@RishiBommasani、@DubMagda、@CUdudec、@AnkaReuel、Elham Tabassi、@sayashk 和我。