Publicité

IA : la Cnil publie 7 recommandations pour développer des systèmes qui respectent le RGPD

  • ia-cnil-publie-7-recommandations-pour-developper-systemes-respectent-rgpd.jpg

    IA-Cnil-publie-7-recommandations-pour-developper-systemes-respectent-RGPD
    IA : la CNIL publie ses premières recommandations sur le développement des systèmes d’intelligence artificielle. (freepik/ embasy)
  • La Cnil a publié sept premières recommandations concernant le développement des systèmes d’intelligence artificielle (IA). Avec des fiches pratiques, le gendarme des données personnelles souhaite aider les professionnels à concilier innovation et respect des droits des personnes dans le développement de leurs systèmes d’IA.

    La Cnil a publié, ce lundi 8 avril, une série de sept recommandations sous forme de fiches pratiques pour un usage des systèmes d’intelligence artificielle (IA) respectueux des données personnelles. Cette initiative apparaît suite aux questionnements de la part de nombreux acteurs concernant l’application du RGPD aux systèmes d’IA génératives. Pour la Cnil, il est possible “de faire émerger des dispositifs, outils et applications éthiques et fidèles aux valeurs européennes”. 

    Ces recommandations ont été élaborées après une série de rencontres, ainsi qu’une consultation publique de deux mois avec différentes parties prenantes (entreprises, chercheurs, universitaires, associations, conseils juridiques et techniques, syndicats, fédérations, etc.) pour recueillir leurs interrogations sur le sujet. L’objectif ? “Aider les professionnels à concilier innovation et respect des droits des personnes”.  

    Recommandations pour le développement des systèmes d'IA

    Les sept recommandations de la Cnil concernent uniquement la phase de développement des systèmes d’IA, et non leur déploiement. Dans ce cas précis, les points abordés permettent de :

    - déterminer le régime juridique applicable ;
    - définir une finalité ;
    - déterminer la qualification juridique des acteurs ;
    - définir une base légale ;
    - effectuer des tests et vérifications en cas de réutilisation des données ;
    - réaliser une analyse d’impact si nécessaire ;
    - tenir compte de la protection des données dès les choix de conception du système ;
    - tenir compte de la protection des données dans la collecte et la gestion des données.
     
    En réponse à ces premières recommandations, la Cnil prévoit de fournir d’autres fiches pratiques "dans les mois à venir". Elles traiteront notamment la base légale de l'intérêt légitime, la gestion des droits, l'information des personnes concernées, ou encore l'annotation et la sécurité lors de la phase de développement.
     

    À lire sur Archimag
    Les podcasts d'Archimag
    La mise à disposition des décisions de justice en Open Data a vu le jour grâce à la loi pour une République numérique votée en 2016. Les articles 20 et 21 prévoient la mise en open data des quatre millions de décisions de justice produites chaque année par les tribunaux français. Camille Girard-Chanudet est chercheuse en sociologie au sein du Centre d’étude des mouvements sociaux. En 2023, elle a soutenu une thèse devant l’École des hautes études en sciences sociales (EHESS) : "La justice algorithmique en chantier, sociologie du travail et des infrastructures de l’intelligence artificielle". Dans ce cadre elle a rencontré les équipes de la Cour de cassation qui procèdent à l’anonymisation des décisions de justice.

    Serda Formations Data 2023