L’Union européenne a pris la décision de réguler l’intelligence artificielle, devenant ainsi le premier continent à le faire à l’échelle mondiale. Après trois jours de négociations intenses entre les États membres et le Parlement européen, les législateurs de l’UE ont trouvé un « accord politique » sur un texte visant à favoriser l’innovation tout en encadrant les possibles dérives de ces technologies avancées.
« C’est historique ! L’UE devient le premier continent à établir des règles claires pour l’utilisation de l’IA », a déclaré Thierry Breton, le commissaire européen à l’origine de ce projet présenté en avril 2021. Les discussions ont été longues depuis cette date, et le dernier round de négociation a duré près de 35 heures. L’apparition de ChatGPT, un générateur de textes développé par la société californienne OpenAI, a perturbé le processus l’année dernière. Ce système, ainsi que d’autres capables de créer des sons ou des images, ont révélé le potentiel immense de l’IA, mais aussi certains risques, comme la diffusion de fausses photographies sur les réseaux sociaux, donnant l’impression de manipuler l’opinion publique.
Les négociations ont intégré le phénomène des IA génératives, à la demande des eurodéputés qui ont souligné l’importance d’un encadrement spécifique pour ces technologies à fort impact. Ils ont notamment réclamé plus de transparence sur les algorithmes et les bases de données utilisées dans ces systèmes.
Les États membres craignaient que des régulations excessives ne tuent dans l’œuf leurs champions naissants, comme Aleph Alpha en Allemagne et Mistal AI en France, en rendant les coûts de développement prohibitifs. L’accord politique trouvé doit maintenant être finalisé par un travail technique. « Nous allons analyser attentivement le compromis trouvé aujourd’hui et nous assurer dans les prochaines semaines que le texte préserve la capacité de l’Europe à développer ses propres technologies d’intelligence artificielle et préserve son autonomie stratégique », a déclaré Jean-Noël Barrot, le ministre français du Numérique.
Les IA génératives seront soumises à des règles visant à garantir la qualité des données utilisées dans les algorithmes et à vérifier leur conformité à la législation sur les droits d’auteur. Les développeurs devront également s’assurer que les sons, images et textes produits par ces systèmes seront clairement identifiés comme étant artificiels. Des contraintes plus strictes seront appliquées aux systèmes les plus puissants.
Le texte s’appuie sur les principes des réglementations existantes de l’UE en matière de sécurité des produits, en imposant des contrôles reposant d’abord sur les entreprises. Les systèmes jugés à « haut risque », utilisés dans des domaines sensibles tels que les infrastructures critiques, l’éducation, les ressources humaines et le maintien de l’ordre, seront soumis à une série d’obligations, notamment celle d’intégrer un contrôle humain sur la machine, d’établir une documentation technique et de mettre en place un système de gestion des risques.
La législation prévoit également un encadrement spécifique pour les systèmes d’IA qui interagissent avec les humains, ceux-ci devant informer les utilisateurs qu’ils communiquent avec une machine. Les interdictions seront rares, mais elles concerneront notamment les applications contraires aux valeurs européennes, telles que les systèmes de notation des citoyens ou de surveillance de masse utilisés en Chine, ainsi que l’identification biométrique à distance des personnes dans les lieux publics pour éviter une surveillance de masse. Toutefois, des exemptions ont été obtenues pour certaines missions des forces de l’ordre, telles que la lutte contre le terrorisme.
Contrairement aux codes de conduite volontaires de certains pays, la législation européenne sera dotée de moyens de surveillance et de sanctions, avec la création d’un office européen de l’IA au sein de la Commission européenne. Cet office pourra infliger des amendes allant jusqu’à 7 % du chiffre d’affaires, avec un plancher de 35 millions d’euros, pour les infractions les plus graves.