IA Act : le Parlement européen avance sur la régulation des intelligences artificielles

 Découvrez toutes les newsletters thématiques gratuites d'Archimag dédiées aux professionnels de la transformation numérique, des bibliothèques, des archives, de la veille et de la documentation.

Le 14 juin dernier, le Parlement européen a voté en très grande majorité en faveur du projet d'IA Act. Avec ce premier pas, l'Europe se place en chef de file sur la régulation de l'intelligence artificielle.

"La loi sur l'IA donnera le ton au niveau mondial en matière de développement et de gouvernance de l'intelligence artificielle", explique Dragoş Tudorache, eurodéputé roumain et co-rapporteur. "Et ce, en veillant à ce que cette technologie, appelée à transformer radicalement nos sociétés grâce aux avantages considérables qu'elle peut offrir, évolue et soit utilisée dans le respect des valeurs européennes que sont la démocratie, les droits fondamentaux et l'État de droit."

Quels garde-fous pour l'intelligence artificielle ?

Le Parlement compte bien poser des garde-fous solides tout en encourageant l'innovation. "Nous voulons exploiter le potentiel positif de l'IA en termes de créativité et de productivité, mais nous nous battrons aussi pour protéger notre position et contrer les dangers qui pèsent sur nos démocraties et nos libertés lors des négociations avec le Conseil", confirme Brando Benifei, eurodéputé italien et co-rapporteur.

Dans cet IA Act, les députés ont inclus les systèmes d'intelligence artificielle qui portent gravement atteinte à la santé, à la sécurité et aux droits fondamentaux des personnes ou à l'environnement dans la classification des applications à haut risque.

Lire aussi : Jérôme Ribeiro : "Mettre l’intelligence artificielle au service de l’humanité"

"Les systèmes d'IA utilisés pour influencer les électeurs et le résultat des élections, ainsi que les systèmes d'IA utilisés dans les systèmes de recommandation exploités par les plateformes de médias sociaux (ayant plus de 45 millions d'utilisateurs) ont été ajoutés à la liste des systèmes à haut risque", détaille le Parlement.

Jongler entre interdictions et innovation

Les fournisseurs d'IA à usage général devront s'auto-évaluer et réduire les risques d'impact dans les domaines de la santé, de la sécurité, des droits fondamentaux, de l'environnement, de la démocratie ou encore de l'État de droit. Ils devront aussi enregistrer leurs modèles dans la base de données de l'UE avant leur mise en circulation sur le marché européen.

Une plus grande transparence et des garanties de lutte contre la génération de contenus illicites seront demandées aux systèmes d'IA génératives. "Des résumés détaillés des données protégées par le droit d'auteur utilisées pour la formation des IA devront également être rendus publics", indique le Parlement européen.

Lire aussi : IA génératives : un danger pour la protection des données personnelles

Enfin, les députés européens ont validé un certain nombre d'interdictions, dont : les systèmes d'identification biométrique à distance en "temps réel" dans les espaces accessibles au public, les systèmes de police prédictive, les systèmes de reconnaissance des émotions utilisés dans les services répressifs, la gestion des frontières, le lieu de travail et les établissements d'enseignement... À suivre...