Information et IA : le Sénat s’interroge sur les zones grises avec Google, OpenAI et Anthropic

 Découvrez toutes les newsletters thématiques gratuites d'Archimag dédiées aux professionnels de la transformation numérique, des bibliothèques, des archives, de la veille et de la documentation.

Le 4 juin dernier, les représentants de Google (Gemini), OpenAI (ChatGPT) et Anthropic (Claude) ont été auditionnés par la commission de la culture, de l'éducation, de la communication et du sport entend du Sénat, dans le cadre de la mission d’information sur les zones grises de l’information. Sur le thème “information et IA”, les sénateurs ont cherché à interroger la place grandissante des intelligences artificielles dans l’accès à l’information. 

Dans son introduction, le président de la commission, Laurent Lafon, membre du groupe Union Centriste, a posé l’angle de réflexion. Comment une IA générative choisit-elle les informations qu’elle présente à ses utilisateurs ? Peut-elle garantir leur neutralité ? Et qui est responsable lorsqu’elle diffuse une information erronée ? L’objectif ? Lever les zones grises pour prévenir la désinformation ou toute ingérence interne ou externe pouvant nuire à la démocratie. 

Lire aussi : Un cours en ligne de l'AFP pour détecter la désinformation dopée à l'IA 

Si les trois entreprises font état de grands progrès en matière de réduction des hallucinations et d’amélioration de la fiabilité de leurs modèles - recherche sur internet, citations des sources, mesure des biais, filtres et équipes luttant contre les tentatives de manipulation etc. - elles peinent à déterminer précisément sur quels critères les IA sélectionnent et hiérarchisent les informations. Mais elles ne fournissent pas de données chiffrées précises pendant l’audition. Les fournisseurs d’IA parlent davantage de pertinence, de fiabilité et d’autorité des sources sans qualifier ce que cela signifie concrètement. Les entreprises ayant des partenariats avec des médias, à l’image d’OpenAI et Le Monde, affirment ne pas privilégier les sources issues de ces partenariats.

Éditeurs ou outils : quel statut pour les fournisseurs d’IA ?

Le président de la Commission a mentionné le cas de “Portal Kombat”, le réseau russe diffusant massivement de la désinformation. Selon Laurent Lafon, les principaux outils d’IA générative auraient repris, dans environ un tiers des cas étudiés, de fausses affirmations diffusées par ce réseau. Mauvaise pioche ! Aucun des trois représentants n’est en mesure d’expliquer précisément comment son entreprise a réagi face à ce cas précis.

Les fournisseurs relativisent et indiquent tous que leurs outils ne sont pas tant utilisés pour la recherche d’informations. Martin Signoux, responsable des affaires publiques (Europe) d'OpenAI estime que cela représente “une part minime” des interactions sur ChatGPT. De son côté, Guillaume Princen, directeur général EMEA d'Anthropic indique que Claude est vu comme un outil de travail et que les utilisateurs en ont des “usages techniques”.

Lire aussi : Christine Dugoin-Clément : “la Russie crée un système chaotique chez ses adversaires”

Sur la question de la responsabilité, les sénateurs ont interrogé les fournisseurs d’IA sur leur implication dans la fabrication et la mise en avant de contenus malveillants. Ils ont notamment demandé si Google, OpenAI et Anthropic pouvaient être considérés comme des éditeurs, puisque leurs modèles produisent des réponses différentes à partir d’une même question. Les trois géants de l’IA générative refusent cette qualification.

Cependant, la question reste entière, car ces IA sont capables de sélectionner, reformuler et de diffuser l’information. Elle devrait occuper encore la mission d’information et plus largement la société pour quelque temps.