18 pays, dont la France, signent un accord sur la sécurité de l'intelligence artificielle

Trois semaines après le premier sommet international sur l’intelligence artificielle, 18 pays ont signé dimanche 26 novembre un accord non contraignant sur des “lignes directrices pour le développement sécurisé de systèmes d'IA”. Celui-ci prévoit notamment d’inciter les entreprises du secteur à créer des modèles "secure by design" (conçus pour être sécurisés).

Ce texte a été signé par les agences de cybersécurité française, américaine, britannique, allemande ou encore japonaise. La NSA, l'un des services de renseignements américains, fait aussi partie des signataires. En revanche, aucun organisme chinois n'a paraphé ce texte, même si le pays était bien présent au sommet de Bletchley Park.

17 lignes directives

“Ces directives représentent un accord historique, se félicite Alejandro Mayorkas, secrétaire à la Sécurité intérieure des Etats-Unis. Les développeurs doivent investir pour protéger les clients à chaque étape de la conception et du développement d'un système.” Plusieurs grandes entreprises du secteur ont participé à l’élaboration de ces recommandations, comme OpenAI, Google, Microsoft, Amazon ou encore Anthropic.

Le texte comporte 17 lignes directives générales sur la protection des modèles d’IA et des données, sur la réalisation de tests avant la mise en ligne ou encore sur la nécessité de transparence. Le texte n’évoque pas certains sujets, comme les risques liés à l’émergence de l’intelligence artificielle générative ou les données utilisées pendant la phase d’entraînement.

Pas de mesures contraignantes

Cet accord s’inscrit dans une volonté, affichée par les responsables politiques, de collaboration internationale face aux progrès rapides de l’IA. Mais il illustre aussi l’absence de mesures concrètes et contraignantes pour les entreprises du secteur. En Europe, le projet de régulation AI Act reste encore en négociations entre les différentes institutions, sans grande avancée récente en raison de la réticence de certains pays, dont la France, à trop réglementer par rapport aux grandes puissances comme les Etats-Unis et la Chine.