Projet européen pour réguler l’IA : quelles règles pour les outils comme ChatGPT ou Midjourney ?

L’Europe prête à négocier les règles « pour une IA plus sûre »

Le Parlement européen a adopté, mercredi 14 juin, le projet de régulation de l’intelligence artificielle à une très large majorité. Les eurodéputés sont désormais « prêts à négocier les premières règles pour une IA sûre et transparente », peut-on lire sur le site du Parlement. Le but : « Promouvoir l’adoption d’une IA axée sur le facteur humain, et protéger la santé, la sécurité, les droits fondamentaux et la démocratie de ses effets néfastes ».

Les règles garantiraient que l’IA qui est développée et utilisée en Europe soit pleinement conforme aux droits et valeurs de l’UE, notamment sur la surveillance humaine, la sécurité, la protection de la vie privée, la transparence, la non-discrimination et le bien-être social et environnemental.

Ces règles s’appliqueront à tous les outils IA et à leurs éditeurs, en classant notamment les différentes technologies selon un niveau de risque, et en interdisant purement et simplement certains de leurs usages, comme l’identification biométrique en temps réel ou les systèmes de police prédictive, par exemple. À la suite de cette décision, les négociations avec les États membres « sur la forme finale de la législation » commencent dès à présent et se poursuivront pendant plusieurs mois.

Quel impact du projet européen sur les IA génératives comme ChatGPT ?

Mais quel sera l’impact de cette nouvelle réglementation sur les IA génératives, qu’elles produisent du texte, de l’image ou de l’audio, comme ChatGPT, Midjourney ou MusicGen ? Ces systèmes d’IA, dits « à usage général », seront scrutés de près par l’UE. En amont de leur mise en circulation sur le marché européen, les fournisseurs devront « évaluer et atténuer les risques potentiels (dans les domaines de la santé, de la sécurité, des droits fondamentaux, de l’environnement, de la démocratie et l’état de droit) ». Ils auront également à « enregistrer leurs modèles dans la base de données de l’UE ».

Une fois leurs systèmes mis en circulation, les fournisseurs devront « respecter les exigences en matière de transparence ». Autrement dit, ils auront à :

• Indiquer que le contenu a été généré par IA,
• Aider à distinguer les vraies images des fausses,
• Offrir des garanties contre la génération de contenus illicites,
• Publier des résumés des données protégées par le droit d’auteur utilisées pour la formation du modèle.

Nous voulons exploiter le potentiel positif de l’IA en termes de créativité et de productivité, mais nous nous battrons aussi pour protéger notre position et contrer les dangers qui pèsent sur nos démocraties et nos libertés lors des négociations avec le Conseil, a déclaré Brando Benifei, rapporteur italien du projet.