Rohan Paul

前 Anthropic 研究员 Jacob Coxon 对纽约市立法者表示，人类很可能会失去对 AI 的控制，他还将出席纽约市关于 AI“紧急关停开关”的听证会作证。 纽约市还在准备一项法案，要求在本地销售的每个 AI 模型都必须先通过外部验证，未经验证的每次销售或部署将对 AI 供应商罚款 2.5 万美元。 全部 51 名市议员正在审议这项主法案：未经外部验证，禁止在本市营销、销售或部署任何 AI 模型。 法案还要求具备关停能力，即人类操作员在技术上能让模型停止运行，无论是暂时还是永久。 验证方将对准确性、校准度、确定性、延迟、数据来源、偏见、隐私和安全性打分，然后向该市的网络司令部认证其是否就绪。