L’IA pour détecter les schémas narratifs de la désinformation

CET ARTICLE A INITIALEMENT ÉTÉ PUBLIÉ DANS ARCHIMAG N°386

Au sommaire : 

- Dossier : IA générative : comment préserver l’information et les documents ?
- Veille média face aux fake news : l’IA, menace ou alliée ?
- Fraude documentaire : quels outils pour protéger ses documents ?
- Le communiqué de presse certifié, nouvelle arme anti fake news
- L’IA pour détecter les schémas narratifs de la désinformation

Découvrez Le Push du Veilleur, la newsletter thématique gratuite d'Archimag dédiée aux professionnels de la veille et de la documentation !

C’est dans le cadre du second appel à projets de l’European Narrative Observatory, lancé par la Commission européenne, que Prompt (Predictive Research On Misinformation & Propagation Trajectories) a vu le jour. Son objectif ? Fournir des outils basés sur l’intelligence artificielle (IA) pour détecter et analyser des contenus de désinformation.

Mené par l’institut d’études spécialisé dans la collecte et l’analyse des données numériques Opsci AI, le consortium de Prompt se compose d’entreprises privées, mais aussi d’universités et de chercheurs européens (Università degli Studi di Urbino Carlo Bo (Italie), HUN-REN Center for Social Sciences (Hongrie), Rīga Stradiņš University (Lettonie), Re:Baltica (Lettonie), Erich Brost Institute (Allemagne), Asociatia Digital Bridge (Roumanie), Orizzonti Politici (Italie), Les Surligneurs et Wikimedia France.). Il se concentre sur trois grandes thématiques : la guerre en Ukraine, les troubles liés aux élections européennes (et aux élections en général) et les menaces aux droits et libertés de la communauté LGBTQAI+.

"Nous avons associé Wikimédia France à Prompt pour plusieurs raisons", explique Jordan Ricker, COO d’Opsci AI. "D’une part, parce que Wikimédia est une cible, faisant souvent l’objet de critiques de tous bords, alors qu’il s’agit d’une réussite collective et d’un “asset démocratique” qu’il faut protéger".

Intégrer Wikimédia au projet permet aussi de faire du lobbying auprès des acteurs du numérique en leur prouvant qu’ouvrir leurs données est possible. "Enfin, parce que le positionnement de Prompt est orienté R&D", ajoute Jordan Ricker. "Nous nous intéressons aux leviers rhétoriques de la désinformation pour identifier comment se forment et se propagent ces narratifs et quels sont leurs patterns (Caractéristiques, schémas et structures qui présentent une régularité.)". Une approche qui permet de répondre aux critiques de partialité et à celles de "police de la pensée" que la lutte contre la désinformation peut soulever.

Lire aussi : Wikimédia face à la gestion de conflits

Des outils pour Wikipédiens, "osinteurs" et journalistes

De son côté, Wikimédia voit le projet comme une opportunité pour mieux équiper et sensibiliser sa communauté. "Nous n’avons pas forcément les moyens humains et financiers pour développer ce genre d’outils", souligne Rémy Gerbet, directeur exécutif de Wikimédia France. "Nous essayons de montrer que le maintien d’un projet collaboratif, citoyen et ouvert est compatible avec les nouvelles exigences sociétales et politiques de préservation du débat démocratique".

Dans le détail, Prompt entend fournir un arsenal de briques à destination des Wikipédiens, des "osinteurs" ou encore des journalistes. Basés sur de grands modèles de langage (LLMs), ces outils disposeront d’une dimension d’analyse narrative, rhétorique, de coordination et de propagation. "Nous souhaitons aussi réaliser un grand dictionnaire européen du "whistleblowing" (Terme anglo-saxon désignant la dénonciation, par des employés lanceurs d’alerte, de pratiques délictueuses au sein de leur organisation), reprend Jordan Ricker. "Cette base de données dans toutes les langues recensera tous les mots et tournures qui circulent au sein de certaines communautés pour camoufler des propos haineux sans les formuler clairement."

Parmi les différentes briques prévues dans le projet, les utilisateurs auront à leur disposition un prompt permettant d’auditer un contenu, mais aussi un corpus de textes pour analyser des pages voisines à un sujet. "Ces outils mettront en lumière des faisceaux d’indices : activités suspectes, sensibilité du sujet, qualité des données", détaille Jordan Ricker. "Tout un ensemble d’indicateurs pour aider les utilisateurs à prendre une décision."

Si les outils de Prompt sont toujours en développement, les "Wikipédien·nes" devraient en découvrir les premières versions dans les prochains mois. Une API peu gourmande en ressources est également prévue. "La communauté est curieuse et a envie d’en savoir plus", s’enthousiasme Rémy Gerbet.

Lire aussi : Quelle formation pour se lancer dans l'Osint ?