Veille média face aux fake news : l’IA, menace ou alliée ?

CET ARTICLE A INITIALEMENT ÉTÉ PUBLIÉ DANS ARCHIMAG N°386

Au sommaire : 

- Dossier : IA générative : comment préserver l’information et les documents ?
- Veille média face aux fake news : l’IA, menace ou alliée ?
- Fraude documentaire : quels outils pour protéger ses documents ?
- Le communiqué de presse certifié, nouvelle arme anti fake news
- L’IA pour détecter les schémas narratifs de la désinformation

 Découvrez Le Push du Veilleur, la newsletter thématique gratuite d'Archimag dédiée aux professionnels de la veille et de la documentation !

Entre septembre et décembre 2023, Viginum a mis en lumière les activités de "Portal Kombat", un réseau d’au moins 193 sites internet. "Ils ne produisent aucun contenu original, mais répliquent massivement des textes issus de trois types de sources : réseaux sociaux, agences de presse russes ou sites officiels d’institutions ou d’acteurs locaux." En générant plus de 3,4 millions de contenus, ce réseau a aussi manipulé les LLM et, selon Newsguard, ont pollué les principales IA génératives (ChatGPT, Gemini, Meta AI, Perplexity…). Dans cet exemple, c’est l’intelligence artificielle (IA) qui a servi à automatiser la création des fake news et à multiplier leur diffusion.

En avril dernier, les ONG Data For Good, QuotaClimat et Science Feedback ont dévoilé les conclusions de leur projet de détection automatisée de la désinformation climatique dans les médias audiovisuels. En trois mois, 128 cas ont été identifiés grâce à l’utilisation, vertueuse, cette fois-ci, de l’IA.

La question des fake news dans la veille média n’est pas nouvelle, mais l’IA, et en particulier l’IA générative, pose de nouvelles problématiques. Aujourd’hui, tout le monde est capable de créer une information qui semble logique, crédible et convaincante. "Nous sommes vraiment face à une explosion du nombre de contenus publiés en ligne", confirme Ludovic Desgranges, CEO de NewsCore, qui propose un service IA de veille économique pour les entreprises. "Il faut des outils pour structurer, alerter et trier face à ce chaos informationnel, et l’IA est aussi bien un problème qu’une solution."

En matière de fact-checking, l’IA est en effet de plus en plus mise au service de la lutte contre la désinformation. Le projet Vera.ai, lancé en 2022 et financé par l’Union européenne, en est un exemple. "Nous travaillons sur des IA de confiance", précise le consortium mené par le Centre de recherche et de technologie Hellas, en Grèce. "Équitables, transparentes, robustes face aux biais des IA, qui s’adaptent aux évolutions de la désinformation […], et qui ont la capacité de traiter des contenus multimodaux et multilingues".

Lire aussi : La lutte contre la fraude documentaire : état des lieux et avancées technologiques grâce à l'IA

Vers un Nutriscore version fake news ?

De son côté, NewsCore est une technologie de web intelligence basée sur des agents d’IA. La start-up, lancée en 2024, a pour ambition de "transformer l’actualité en insights exploitables en garantissant la fiabilité des sources d’information". "L’IA accompagne alors l’humain sur le traitement de l’information et devient un coéquipier indispensable", explique Ludovic Desgranges.

NewsCore mise donc sur des outils dynamiques à partir desquels les utilisateurs peuvent cadrer leurs recherches en langage naturel. "Nous avons développé un algorithme en collaboration avec des chercheurs du CNRS pour évaluer la fiabilité des sources", poursuit le CEO de NewsCore. Les sources sont associées à deux indicateurs : un score de pertinence, qui dépend du sujet suivi, et un score de fiabilité, lui-même basé sur cinq critères : la confiance du public, l’indépendance éditoriale, l’historique en matière de fausses informations, les éventuels biais politiques, ainsi que la transparence des sources utilisées par le média.

Pour la start-up, il est essentiel aujourd’hui de "stabiliser" les sources d’informations. "Récemment, nous avons encore vu avec Décathlon ce que peut engendrer ce type de problématique", indique Ludovic Desgranges. En avril dernier, une rumeur concernant la fermeture de 27 magasins de l’enseigne de sport s’est propagée très rapidement dans des médias fonctionnant uniquement avec des contenus générés par l’IA ; une série d’hallucinations qui portent atteinte à la réputation de la marque.

Au-delà de la détection des fausses informations, la fiabilisation de ses propres communications est aussi un enjeu pour les organisations. "Les fake news corporate font courir des risques réputationnels et économiques aux entreprises", explique Raphaël Labbé, CEO de Wiztrust, qui propose une plateforme de certification de l’information des entreprises dans la blockchain. Ces fake news peuvent provenir d’hallucinations des IA génératives, comme pour Décathlon, mais aussi de ceux que Raphaël Labbé surnomme des "cambrioleurs financiers" dont le but est de manipuler le cours de bourse d’une société pour gagner de l’argent. "Il y a aussi des “hack-tiviste”, dont l’objectif est de prendre à partie une organisation sur des enjeux de société", ajoute-t-il.

En réponse à cette problématique, Wiztrust propose sa solution Wiztrust Protect aux équipes communication, qui peuvent gérer, certifier, diffuser et mesurer la performance de leurs contenus. "Il n’est pas question de dire si une information est vraie ou fausse, mais si elle vient bien de l’émetteur légitime", précise Raphaël Labbé." La désinformation est un problème multitechnologique et nous sommes l’une des solutions. Dans le futur, peut-être serons-nous tous équipés d’un assistant IA capable, comme le Nutriscore, de nous alerter sur la fiabilité des contenus en plus de notre sens critique ?"

Lire aussi : Dézinguer les fake news grâce au fact-checking

Les outils de fact-checking à mettre dans ses favoris

AFP Factuel (AFP), Les Décodeurs (Le Monde), Fake Off (20 minutes), CheckNews (Libération), Vrai ou faux (France Info)… Il existe une large offre d’outils de vérification d’information. Archimag avait déjà détaillé pour vous ces différents sites dans un précédent numéro (n° 364, mai 2023). Depuis, la liste des aides à la détection de fake news s’est allongée. Voici trois outils à mettre dans vos favoris !

• Vera au bout du fil

L’ONG LaReponse.Tech a développé Vera, une IA générative connectée à plus de 300 sites de fact-checking (dont ceux mentionnés plus haut). Les utilisateurs peuvent lui téléphoner ou échanger avec elle par message sur WhatsApp pour lui demander de vérifier une information. Disponible sans connexion internet à partir de tous les téléphones, le chatbot Vera permet de "debunker" une information en langage naturel et cite ses sources. Et, contrairement à la grande majorité des IA génératives, Vera sait aussi dire qu’elle ne peut répondre à une question lorsque l’information à vérifier n’est pas répertoriée au sein des outils sur lesquels elle s’appuie.
-> www.askvera.org / tél : 09.74.99.12.95 / Gratuit.

• Factiverse dans toutes les langues

Factiverse propose plusieurs solutions multilingues. La start-up norvégienne le revendique : "nos produits sont idéaux pour intégrer la vérification de faits dans les workflows d’entreprise". L’API FactiSearch est entraînée sur une base de données de plus de 350 000 informations vérifiées manuellement, qui proviennent de plus de 100 sources dans le monde. Elle s’intègre à un CMS pour fact-checker les publications. Factiverse propose aussi un Live Fact-Checking pour les contenus audiovisuels en direct (recherche de sources et résultats d’analyse en temps réel, génération d’un compte-rendu…). Le Factiverse GPT est un plugin gratuit disponible dans la boutique ChatGPT. Ce dernier offre la possibilité de vérifier des informations directement sur le chatbot d’OpenAI avec les sources de Factiverse.
-> www.factiverse.ai / Payant sur abonnement

• InVID WeVerify en plug & play

Le plugin InVID WeVerify existe depuis quelques années et a déjà été éprouvé : récupération d’informations contextuelles sur les images et vidéos qui circulent sur les réseaux sociaux, recherches inversées d’images, possibilité d’interroger la Base de données des faux connus (DBKF)… Mais cette extension, qui s’utilise facilement via un navigateur, intègre de nouveaux outils, notamment dans le cadre du projet Vera.ai : détecteur d’images synthétiques, de clonage vocal audio, création d’un Gif comparatif entre une image manipulée et son original (nouveau module CheckGif issu du projet EnVisu4 de l’International Fact-Checking Network), possibilité de documenter les traces de désinformation avec le format Web Archive Collection Zipped (WACZ)… Un vrai couteau-suisse !
-> Fake news debunker by InVID & WeVerify / Disponible sur les webstore des navigateurs.