Le Parlement européen adopte un projet de réglementation de l'intelligence artificielle

C'est une première étape vers une régulation de l'intelligence artificielle en Europe. Mercredi 14 juin, le Parlement européen a adopté, à une écrasante majorité, sa version de l'Artificial Intelligence Act, un projet d’encadrement du secteur introduit par la Commission européenne en 2021.

Nouvelles dispositions visant l'IA générative

L’émergence récente des IA génératives, comme le robot conversationnel ChatGPT et le générateur d’images Midjourney, s’est traduite par de nouvelles mesures, pour tenir compte des nouvelles problématiques qui n’avaient pas été anticipées il y a deux ans.

Le texte prévoit désormais l'obligation de déclarer si des textes, des images ou des musiques protégés par le droit d'auteur ont été utilisés pour entraîner les modèles d'IA. Cela pourrait permettre aux détenteurs de droits de saisir la justice pour tenter d’être rémunérés pour les contenus utilisés sans leur consentement. Ces modèles devront par ailleurs être enregistrés au sein d’une base de données européenne.

Les services d’IA générative devront également mettre en place un système d’identification des contenus qu'ils génèrent, permettant par exemple de distinguer les fausses photos. Ils devront aussi prendre des mesures contre les contenus illégaux, et mener des études d’impact si leur application fait partie des systèmes considérés à “haut risque”.

L’identification biométrique restreinte

Au-delà de l’IA générative, le texte du Parlement européen prévoit l’interdiction des “usages intrusifs et discriminatoires” de l'intelligence artificielle. Et notamment des systèmes d’identification biométrique en temps réel dans les lieux publics. Aucune exception n’est prévue, quand le projet de la Commission permettait d’utiliser de tels systèmes en cas d'enlèvement ou de menace terroriste.

Le projet limite par ailleurs l’utilisation a posteriori de l’identification biométrique par les forces de police aux seuls “crimes graves”. Et seulement après l’autorisation d’un juge. Les systèmes de police prédictive sont aussi interdits, tout comme les systèmes de détection des émotions.

Négociations avec la Commission et le Conseil

Le texte introduit une série d’obligations de supervision humaine et d’évaluation pour les applications considérées à “haut risque” - celles qui présentent “un préjudice significatif pour la santé, la sécurité, les droits fondamentaux des personnes ou l'environnement”. Le Parlement a ajouté dans cette catégorie les systèmes qui pourraient influencer des élections et les algorithmes de recommandation des réseaux sociaux comptant plus de 45 millions d’utilisateurs en Europe.

Le texte doit désormais être examiné par la Commission et le Conseil européen. L’interdiction de l’identification biométrique pourrait représenter un point de divergence entre le Parlement et les gouvernements des Vingt-Sept.

Les règles sur l’IA générative, critiquées par Sam Altman, le patron d’OpenAI, pourraient aussi poser problème. Mercredi 13 juin, Emmanuel Macron a soulevé le risque de trop réglementer le secteur. “Le pire scénario serait une Europe qui investit beaucoup moins que les Américains et les Chinois et qui commencerait par créer de la régulation. Ce scénario est possible, ce ne serait pas celui que je soutiendrai”, a-t-il indiqué.