Arvind Narayanan
@random_walker
新文章：人工智能安全运动是大帐篷还是小帐篷？
支撑安全辩论的未明确的分歧
https://www.normaltech.ai/p/a-big-tent-or-small-tent-ai-safety
关于人工智能安全的两种说法已经出现：要么人工智能的存在风险是真实且迫在眉睫的，要么人工智能领导者和举报者对此的说法是不真诚的——这是一种“心理战”或炒作，或者是一种扭曲的监管捕获形式。
很少有人考虑过第三种可能性，即 x 风险警告是真诚的，但完全是错误的，并且对人工智能安全产生反作用。就好像每个人都理所当然地认为发出警报的人都是天才，唯一的问题是他们是仁慈的天才还是邪恶的天才。
我们不同意这两种说法。在我们关于人工智能安全的文章中，@sayashk 和我一直试图认真对待这些论点，但反驳我们认为不合理的许多主张，同时强调我们认为真实的安全问题。本文是该议程的延续。
部分
- 确实，我们在抵御灾难性和系统性风险方面系统性投资不足
- Coxon 事件表明，扭曲的媒体环境如何使 X 风险高于更根深蒂固的担忧
- 为什么 x 风险框架可能对人工智能安全政策产生反作用
- 结论：大帐篷还是小帐篷AI安全运动？
