IA Act : 5 choses à savoir sur le projet européen de régulation de l’IA

L’Union européenne travaille depuis plus de deux ans sur un projet de réglementation de l’intelligence artificielle : l’IA Act. Son objectif : permettre l’innovation en garantissant la sécurité et les droits des utilisateurs. Réunis jeudi 11 mai à l’occasion d’un vote en commission, les eurodéputés ont décidé de passer à la vitesse supérieure. Ils ont approuvé un projet de régulation de l’IA plus strict que le texte initial d’avril 2021, à une très grande majorité. Découvrez, en 5 points, ce qui se cache derrière l’IA Act.

1. Quel est l’objectif de l’IA Act ?

L’IA Act vise à fixer un cadre juridique uniforme à la commercialisation et à l’usage des intelligences artificielles. Il a pour but d’empêcher de potentielles dérives liées à l’IA, tout en laissant la place à l’innovation. « Nous avons réussi à trouver un compromis qui réglemente l’IA de manière proportionnée, protège les droits civils et stimule l’innovation et l’économie », s’est réjouit l’eurodéputée allemande Svenja Hahn à Reuters. L’adoption d’une telle réglementation serait une première mondiale à cette échelle.

2. Comment sera appliqué l’IA Act ?

L’Europe avance un texte reprenant les réglementations déjà appliquées en matière de sécurité des produits. Mais elle compte aussi, après classement des usages dits « à risque » des intelligences artificielles, imposer aux entreprises des contrôles. Ces applications de l’IA jugées « à risque » concernent les infrastructures critiques, l’éducation, les ressources humaines, le maintien de l’ordre ou la gestion des migrations.

Le texte mentionne que les entreprises qui développent ces IA doivent garantir le maintien d’un contrôle humain, la mise en place d’une documentation technique et d’un système de gestion du risque notamment. Chaque pays membre de l’UE aura son propre organe de contrôle. Aucune autre obligation ne sera imposée aux applications n’étant pas considérées comme à risque.

3. Des utilisations de l’IA purement et simplement interdites ?

Lors du vote, les eurodéputés ont donné leur feu vert à l’interdiction de l’utilisation de la reconnaissance faciale dans les espaces publics et des outils de police prédictive. Ce sont là deux exemples d’application de l’IA que l’Europe ne veut pas voir se développer sur son territoire. Dans le texte d’avril 2021, les systèmes établissant des notes sociales, d’identification biométrique, de manipulation subliminale et ciblant les personnes vulnérables étaient également visés.

4. Quel impact sur les IA génératives comme ChatGPT ?

Au sujet des IA génératives, qui redessinent le paysage numérique et se sont largement démocratisées ces derniers mois, de nouvelles mesures de transparence seront imposées. Des outils comme ChatGPT, Midjourney ou encore DALL-E devront très probablement divulguer quels contenus protégés par des droits d’auteur ont été utilisés pour entraîner leur modèle de langage.

En outre, ces IA devraient à l’avenir être testées par des experts indépendants pour contrôler les risques possibles concernant la sécurité, la santé, les droits fondamentaux, la démocratie ou encore l’environnement. Ces dangers difficiles à éviter et les potentiels usages malicieux devront être précisés dans une documentation distincte. Et dans tous les cas, le respect du RGPD sera essentiel.

5. Quand sera mis en place l’IA Act ?

L’ébauche de projet votée par les députés européens est un premier pas en avant vers l’adoption d’un texte complet de régulation des usages de l’IA, après deux ans de négociations. L’étape suivante du processus législatif est la confirmation en juin, lors d’une séance plénière de la commission, du résultat de ce premier accord.

S’en suivra alors une nouvelle période de négociations avec les États membres avant d’aboutir à la rédaction et au vote du texte final. Margrethe Vestager, vice-présidente de la commission, a fait part à la presse de sa volonté de « ne pas perdre de temps », et espère « avoir la première réunion de négociation politique avant l’été » afin de pouvoir la terminer cette année.