IA générative et désinformation : comment préserver l'information et les documents ?

CET ARTICLE A INITIALEMENT ÉTÉ PUBLIÉ DANS ARCHIMAG N°386

Au sommaire : 

- Dossier : IA générative : comment préserver l’information et les documents ?
- Veille média face aux fake news : l’IA, menace ou alliée ?
- Fraude documentaire : quels outils pour protéger ses documents ?
- Le communiqué de presse certifié, nouvelle arme anti fake news
- L’IA pour détecter les schémas narratifs de la désinformation

 Découvrez Le Push du Veilleur, la newsletter thématique gratuite d'Archimag dédiée aux professionnels de la veille et de la documentation !

La vidéo a fait le tour des réseaux sociaux en quelques heures. Au mois de mai dernier, Emmanuel Macron était accusé de dissimuler un sachet de cocaïne alors qu’il se trouvait dans un train le conduisant en Ukraine en compagnie du chancelier allemand Friedrich Merz et du Premier ministre britannique Keir Starmer. Sur la même vidéo, on voit le chancelier allemand se saisir d’un petit objet aussitôt interprété comme une cuillère à cocaïne par certains internautes. Le web s’embrase et la rumeur enfle au point de générer 75 millions de vues sur X, selon une estimation de France 24. Un zoom effectué sur les images permet rapidement de constater que le sachet de cocaïne est en réalité un mouchoir et que la cuillère n’est qu’une petite pique en bois. "Cette fausse information est propagée par les ennemis de la France, à l’extérieur comme à l’intérieur. Vigilance face aux manipulations", avertit l’Élysée via un message lui-même posté sur… X.

Cette manipulation n’est ni la première ni la dernière. Elle s’ajoute à toutes celles qui visent la France et, plus généralement, le président français depuis plusieurs années. Grâce à la viralité des réseaux sociaux, la désinformation est devenue un jeu d’enfant à la portée de tous les internautes.

Lire aussi : L’IA générative pour les professionnels : les défis et les enjeux à relever

Les pathologies de l’information

Dans un rapport qu’elle a publié récemment, l’Académie des technologies recense les pathologies de l’information et distingue les différents types de "mésinformation" : celle qui n’est pas nécessairement fausse ou produite avec l’intention de nuire, celle qui est carrément inexacte parce que produite trop rapidement ou à partir d’une source non vérifiée, et celle créée dans l’intention de manipuler des esprits, autrement dit la désinformation dans sa forme chimiquement pure.

Pour Nicolas Curien, cofondateur de l’Académie des technologies, "ces pathologies de l’information sont un phénomène ancien, mais l’essor des technologies numériques et de l’IA a considérablement accru leur impact. Aujourd’hui, elles se propagent sur internet de manière virale, car les contenus faux, plus attractifs que les vrais, sont favorisés par les modèles économiques des grandes plateformes numériques reposant sur la captation de l’attention des internautes."

Lire aussi : Nicolas Curien : "le rapport à la vérité est mal parti avec les IA génératives"

"nous sommes tous sous l’influence de biais cognitifs !"

Si les opérations de désinformation sont aussi répandues, c’est qu’elles s’appuient sur une faiblesse psychologique humaine, elle aussi très courante : les fameux biais cognitifs. Autant le dire tout de suite, peu de gens peuvent prétendre y échapper. Qu’il s’agisse du biais de confirmation (rechercher de l’information qui confirme son mode de pensée plutôt que des sources susceptibles de la remettre en question), de la généralisation excessive ou de la minimisation d’un fait, chacun est invité à balayer devant sa porte.

Dans un entretien qu’elle avait accordé à Archimag en 2019, la spécialiste de l’influence digitale Caroline Faillet dressait un constat : "face aux fake news, nous sommes tous sous l’influence de biais cognitifs ! Et quand la fake news possède une forte charge émotionnelle, il n’est pas nécessaire de mettre en place des campagnes de ciblage, car elle va se propager toute seule : plus c’est gros, plus ça se propage ! Il faut également s’intéresser à la façon dont la fake news s’installe dans la mémoire collective via les systèmes d’archivage numérique, comme le référencement de Google et via des sites qui occupent les premiers résultats du moteur, comme Wikipédia."

Et lorsque ce ne sont pas les humains qui hallucinent, c’est l’IA qui prend le relais. De façon hilarante parfois. En 2023, un internaute a demandé à ChatGPT : "quel est le record du monde pour la traversée à pied de la Manche ?" Réponse : "le record est détenu par Christof Wandratsch qui a réalisé la traversée à pied le 14 août 2020 en 14 heures et 51 minutes". Encore plus fort que Jésus marchant sur les eaux de la mer de Galilée !

Forte demande de formation

Dans ce contexte de mésinformation/désinformation généralisée, les professionnels de l’information-documentation ont un rôle à jouer. À condition de se former eux-mêmes, tant les outils dopés à l’IA renversent la table d’une année sur l’autre. Il suffit pour s’en convaincre d’assister aux journées d’étude de l’ADBS ou du gf2i et de constater que les veilleurs-documentalistes sont en très forte demande de formation.

Un besoin qui n’a pas échappé au Cnam. La vénérable institution fondée en 1794 propose désormais une formation intitulée "Lutter contre les fake news !", qui aborde les innombrables facettes de la désinformation : fiabilité des sources en ligne, rôle des images, influence de Wikipédia, impact des réseaux sociaux et astrosurfing (opération de communication censée susciter un mouvement d’adhésion)…

Le tout assuré par des experts et des expertes du domaine info-documentaire (Mathieu Andro, Véronique Mesguich, Claire Scopsi…). Et, comme le fait remarquer un bon connaisseur du milieu : "face à la montée en puissance de l’IA générative, les documentalistes n’ont pas d’autre choix que d’expérimenter, tester, ajuster — au plus près des réalités métiers."