Publicité

Elections législatives anticipées : IA générative et hypertrucages dans le collimateur de la Cnil

  • cnil_ia_election.jpg

    Elections-legislatives-anticipees-IA-generative-hypertrucages-collimateur-Cnil
    La Cnil demande un audit sur les algorithmes utilisés dans le profilage des électeurs (Freepik Premium)
  • La commission alerte sur les risques liés à l'intelligence artificielle dans la production de vidéos truquées et le profilage des électeurs.

    167 signalements et 2 plaintes pour l'envoi massif de SMS et d'appels téléphoniques automatisés. Tel est le bilan dressé par la Cnil au cours de la campagne pour les élections européennes du 9 juin dernier. D'une campagne l'autre, la Cnil porte également une attention particulière aux élections législatives anticipées qui auront lieu les 30 juin et 7 juillet prochains.

    La Cnil s'inquiète en particulier du recours à l'IA en tant qu'outil capable de générer des contenus  tels que la propagande de campagne ou la prospection politique. La commission évoque notamment des risques "d'hallucinations, de discriminations, de biais culturels ou encore de sécurité des données".

    Emmanuel Macron en professeur de yoga

    Autre pratique dans le collimateur de la Cnil, la multiplication des hypertrucages qui connaissent un grand succès sur les réseaux sociaux. On a pu voir Emmanuel Macron en professeur de yoga, Éric Zemmour en rappeur à casquette, Marine Le Pen en chanteuse de raï… Rire garanti mais ces vidéos créées à l'aide de l'IA générative "posent des questions relatives à l’utilisation de l’image et des voix des personnes concernées, démontrant la nécessité d’un marquage  des contenus artificiels tel que prévu par les lignes directrices de la Commission européenne et le règlement européen sur l’intelligence artificielle" explique la Cnil.

    Audit des algorithmes

    Moins spectaculaire (et moins drôle), l'intelligence artificielle est également mise à contribution pour procéder à des analyses à caractère politique avec des systèmes de recommandations de plus en plus sophistiqués. C'est le cas du profilage et du ciblage des électeurs qui conduit la Cnil à demander un audit des algorithmes utilisés lors de ces analyses.

    La commission a adressé une série de courriers aux partis politiques "pour les alerter sur la nécessité de respecter la protection des données personnelles des électeurs." De façon plus autoritaire, la Cnil indique qu'elle effectuera également des contrôles formels auprès des partis qui feront l'objet de plaintes et de signalements.

    À lire sur Archimag
    Les podcasts d'Archimag
    Rencontre avec Stéphane Roder, le fondateur du cabinet AI Builders, spécialisé dans le conseil en intelligence artificielle. Également professeur à l’Essec, il est aussi l’auteur de l’ouvrage "Guide pratique de l’intelligence artificielle dans l’entreprise" (Éditions Eyrolles). Pour lui, "l’intelligence artificielle apparaît comme une révolution pour l’industrie au même titre que l’a été l’électricité après la vapeur".
    Publicité