IA : la Cnil publie 7 recommandations pour développer des systèmes qui respectent le RGPD

La Cnil a publié, ce lundi 8 avril, une série de sept recommandations sous forme de fiches pratiques pour un usage des systèmes d’intelligence artificielle (IA) respectueux des données personnelles. Cette initiative apparaît suite aux questionnements de la part de nombreux acteurs concernant l’application du RGPD aux systèmes d’IA génératives. Pour la Cnil, il est possible “de faire émerger des dispositifs, outils et applications éthiques et fidèles aux valeurs européennes”. 

Ces recommandations ont été élaborées après une série de rencontres, ainsi qu’une consultation publique de deux mois avec différentes parties prenantes (entreprises, chercheurs, universitaires, associations, conseils juridiques et techniques, syndicats, fédérations, etc.) pour recueillir leurs interrogations sur le sujet. L’objectif ? “Aider les professionnels à concilier innovation et respect des droits des personnes”.  

Recommandations pour le développement des systèmes d'IA

Les sept recommandations de la Cnil concernent uniquement la phase de développement des systèmes d’IA, et non leur déploiement. Dans ce cas précis, les points abordés permettent de :

- déterminer le régime juridique applicable ;
- définir une finalité ;
- déterminer la qualification juridique des acteurs ;
- définir une base légale ;
- effectuer des tests et vérifications en cas de réutilisation des données ;
- réaliser une analyse d’impact si nécessaire ;
- tenir compte de la protection des données dès les choix de conception du système ;
- tenir compte de la protection des données dans la collecte et la gestion des données.
 
En réponse à ces premières recommandations, la Cnil prévoit de fournir d’autres fiches pratiques "dans les mois à venir". Elles traiteront notamment la base légale de l'intérêt légitime, la gestion des droits, l'information des personnes concernées, ou encore l'annotation et la sécurité lors de la phase de développement.