David Fayon : "l'information produite par les IA générative n'est pas exacte, elle est probabiliste"

 RETROUVEZ CET ARTICLE ET PLUS ENCORE DANS NOTRE MAGAZINE : IA génératives : mode d’emploi pour les métiers de l’information

 Découvrez toutes les newsletters thématiques gratuites d'Archimag dédiées aux professionnels de la transformation numérique, des bibliothèques, des archives, de la veille et de la documentation.

Le titre de votre ouvrage invite les lecteurs à revoir leur façon de s’informer. Sommes-nous mal informés en 2025 ?

Nous sommes confrontés à une saturation d’informations, avec des flux qui viennent de toutes parts. Mais, finalement, chaque citoyen est enfermé dans ses bulles de filtre. En cause, les algorithmes des réseaux sociaux, qui se basent sur nos habitudes de consommation des médias, que ce soit la télévision, la radio ou la presse.

Une famille issue de la gauche lira plutôt Libération ou Le Monde, alors qu’une famille issue de la droite choisira plutôt Le Figaro.

Or, ce qui est intéressant, c’est de pouvoir s’ouvrir au monde et d’entendre ce que disent des personnes qui ne pensent pas comme nous. D’abord, pour mieux les comprendre, ensuite, pour pouvoir débattre. Et c’est ce débat d’idées qui fait défaut, puisque tout est lié au temps d’attention disponible, qui s’est considérablement réduit.

Un phénomène que l’on retrouve, par exemple, dans les formats de vidéos sur les médias sociaux : auparavant, les vidéos de 3 ou 4 minutes avaient beaucoup de succès, mais avec l’irruption de TikTok, ce sont les formats courts (moins d’une minute) qui se sont imposés et YouTube a fini par les adopter avec ses "shorts".

Nous avons besoin de discernement, de capacité à faire des liens entre des informations contradictoires et de faire la distinction entre de vraies et de fausses informations. Nous devons également nous informer auprès de sources multiples et disposer d’une profondeur historique pour pouvoir analyser une information, connaître son degré de vraisemblance et identifier son caractère factuel ou orienté.

Lire aussi : Jean-Gabriel Ganascia : “l’IA ne supprime pas les métiers, mais elle en redéfinit la valeur et la place”

Sommes-nous d’abord victimes de nos propres biais de confirmation ?

D’une certaine façon, oui. Mais certaines professions, comme celle des veilleurs, sont moins exposées à ces biais de confirmation : les veilleurs pratiquent une "diète informationnelle" (pour reprendre l’expression de Joël de Rosnay), ils disposent justement d’une éducation à l’information et savent "ouvrir leurs chakras", ce que le commun des mortels ne fait pas.

Puisque nous vivons dans une société de l’information, il est important de donner des clés pour mieux s’y informer, et il faut donc évangéliser. Nous sommes d’ailleurs entrés dans la septième étape de l’information, celle des IA génératives, dans laquelle, contrairement aux modes d’information qui se sont succédé (oralité, information écrite, radio, télévision, internet, réseaux sociaux…), l’information qui est produite n’est pas exacte : celle-ci est probabiliste, car elle repose sur un voisinage de mots issu de bases de données et d’informations non structurées.

Il importe donc de connaître, même de façon sommaire, le fonctionnement des algorithmes, de parvenir à une logique de coopération entre l’homme et la machine et de créer des boucles de rétroaction entre eux. Les veilleurs doivent avoir cette capacité à critiquer et à challenger l’information.

Pourtant, certains médias et d’autres métiers sont tentés de confier une partie de la production éditoriale à l’IA…

Oui, mais ce jeu est pernicieux en raison du manque de contextualisation et de référence culturelle. "Tu as la ref ?", comme disent les jeunes. Il faut apprendre à prompter, mais aussi à tenir compte du contexte : le "prompt engineering" doit donc être renforcé par le "context engineering", et les professionnels de l’information, qu’ils soient veilleurs ou documentalistes, doivent acquérir ces compétences. Face à une possible ubérisation liée aux IA génératives, il faut se remettre en question pour pouvoir produire des informations de qualité.

Cette mise à niveau est-elle assurée dans les formations dédiées aux métiers de l’information-documentation ?

C’est assez balbutiant, car ChatGPT est apparu en novembre 2022 et tout est allé très vite. Sa courbe d’adoption a été la plus rapide depuis le téléphone et toutes applications d’internet confondues. Cette accélération du temps provoque un retard naturel entre l’apparition des technologies et les formations. De la même façon, on observe un décalage entre le droit et les nouvelles technologies.

Vous êtes un acteur et un observateur de la filière numérique en France. Comment expliquez-vous la réputation d’excellence des Français dans ce domaine et l’absence de champions français d’envergure mondiale ?

Grâce au Plan Calcul, lancé par le Général de Gaulle en 1966, la France s’est dotée d’entreprises en ingénierie informatique qui sont devenues plus tard des ESN (entreprises de services du numérique) réputées, à l’instar de CapGemini, très présent à l’international, ou d’Atos avant son déclin. Sont apparus ensuite des champions français, avec le groupe Iliad (Free), et notre porte-étendard dans le domaine de l’IA est aujourd’hui Mistral.

Nous disposons également d’ingénieurs de bon niveau qui s’exportent aux États-Unis : on compte aujourd’hui 65 000 Français dans la Silicon Valley. Pour ma part, j’y ai vécu trois ans et j’ai constaté que les Français s’y rendent pour accéder au marché américain, qui représente 330 millions de consommateurs ; un marché relativement uniforme et monolingue, à l’opposé de la mosaïque babélienne qu’est l’Union européenne.

Lire aussi : Coralie Philibert : "Face à l'IA, le contact humain a toujours été privilégié"

N’est-il pas dommageable de voir des dizaines de milliers de Français très bien formés mettre leurs compétences au service de sociétés américaines ?

Oui et non, car ces expatriés développent en Californie une expertise qui pourra ensuite être utilisée en France ou en Europe. Nous vivons dans un monde de "coopétition", où il est courant de travailler trois ou quatre ans chez Google avant de revenir en France pour lancer une start-up tout en gardant une antenne aux États-Unis, avec des copains de promo, des amis ou des investisseurs qui, eux, sont en Europe.

Cela signifie-t-il qu’il existe un ruissellement au bénéfice de l’économie française ?

Oui, nous vivons dans un monde ouvert où il vaut mieux tisser des ponts que construire des murs. Mais nous ne devons pas être naïfs, notamment dans la protection de nos données, car les États-Unis ne font pas de sentiment : tout est orienté vers le "business", alors que la France et l’Europe préfèrent créer de "belles choses", au niveau des algorithmes ou d’ordre esthétique. Ce sont deux modèles de sociétés différents.

Vous plaidez en faveur d’une administration 2.0. Pour quelles raisons ?

Nous pouvons prendre exemple sur l’Estonie, un ancien pays communiste membre du pacte de Varsovie, qui a été le premier à se doter d’une carte d’identité numérisée et de formalités administratives dématérialisées : 95 % des actes administratifs le sont. L’e-administration suppose néanmoins une architecture technique robuste afin d’avoir moins de back-offices, là où l’on a des gains de productivité.

La dématérialisation génère également des réticences de la part de la population…

C’est vrai, il existe des risques de fracture numérique et l’illectronisme ne touche pas que les personnes âgées et les catégories socioprofessionnelles les plus modestes. Un jeune peut être très à l’aise avec TikTok et Instagram sans l’être sur des sites administratifs ou des formulaires Cerfa en ligne.

La France doit donc revoir ses processus, les remettre à plat pour les reconstruire différemment, de façon collaborative en supprimant les silos. Cela permettrait de générer des économies importantes qui plombent nos finances publiques et handicapent notre avenir. Nous avons besoin de plus d’agents de l’administration en contact avec les citoyens : policiers, juges, professeurs, infirmiers, pompiers… Des professions par ailleurs polluées par des formulaires et des tâches administratives répétitives ou complexifiées. Dans certaines administrations, nous en sommes encore à l’ère du parapheur et du fax.

Pour changer les choses, il convient d’adopter une conduite du changement : la transformation digitale ne doit pas se réduire à une couche de numérique greffée sur des processus qui sont eux-mêmes archaïques.