Yoshua Bengio

Je salue le leadership du président @EmmanuelMacron qui a rassemblé aujourd’hui des chefs de gouvernement, des dirigeants des grandes entreprises d’IA et des chercheurs internationaux pour discuter des risques croissants liés à l’IA avancée, incluant la perte de contrôle et l’usage dangereux des IAs. Nous devons commencer à traiter l’IA comme l’ensemble des technologies susceptibles de provoquer des transformations et des menaces majeures pour nos sociétés : avec des cadres de gouvernance intentionnels et rigoureux. Les développeurs de modèles doivent être audités de manière obligatoire et indépendante par des évaluateurs qu’ils ne choisissent pas. Ils doivent aussi être tenus responsables de démontrer que leurs modèles sont sécuritaires avant qu’ils ne posent un danger grave, danger qui peut exister avant la phase de déploiement. --- I welcome the leadership of President @EmmanuelMacron, who brought together heads of government, leaders of frontier AI companies, and international researchers today to discuss the growing risks of advanced AI, including dangerous loss of control and misuse of AIs. We must begin treating AI like other technologies which can deeply transform and threaten our societies: with intentional and rigorous governance frameworks. Model developers should undergo mandatory, independent audits by evaluators they do not choose, and be held accountable for demonstrating that their models are safe before they can pose a grave danger, a danger which can exist before their deployment.