Yoshua Bengio

我向总统 @EmmanuelMacron 的领导力致敬，他今天召集了各国政府首脑、大型人工智能企业的负责人以及国际研究人员，讨论先进人工智能日益增长的风险，包括失控以及对人工智能的危险使用。 我们必须开始把人工智能当作一类可能给我们的社会带来重大变革与威胁的技术来对待：采用有意识且严格的治理框架。模型开发者必须接受他们自己不能选择的评估方所进行的强制性独立审计。他们还必须负责在模型构成严重危险之前证明其是安全的——而这种危险在部署阶段之前就可能存在。 --- 我欢迎总统 @EmmanuelMacron 的领导，他今天将政府首脑、前沿人工智能公司的领导人以及国际研究人员召集在一起，讨论先进人工智能日益增长的风险，包括危险的失控以及对人工智能的滥用。 我们必须开始像对待其他能够深刻改变并威胁我们社会的技术一样对待人工智能：采用有意识且严格的治理框架。模型开发者应接受由他们自己不能选择的评估方进行的强制性独立审计，并被要求负责证明其模型是安全的，然后这些模型才被允许构成严重危险——而这种危险在部署之前就可能存在。