C'est l'oxymore du moment : l'IA de confiance. L'intelligence artificielle générative est régulièrement montrée du doigt pour ses hallucinations et ses biais cognitifs. Dans ces conditions, comment lui faire confiance ? A l'occasion de son forum annuel, le gf2i a apporté un début de réponse : "la confiance doit être systémique et auditable" selon Thomas Parisot, président du Groupement français de l'industrie de l'information. "Cela suppose l'intégrité des sources, la transparence des modèles qui utilisent ces sources et la responsabilité juridique".
Un point de vue partagé par Jean-Baptiste de Vathaire, Directeur général d’Isako.com / Cairn.info qui recense les conditions de la confiance : souveraineté, sobriété et subsidiarité. Spécialisée dans les technologie, LAD, OCR, HTR et le balisage sémantique, sa société développe notamment SophIA une interface de recherche en langage naturel adossée au portail documentaire Cairn.info : "nous devons laisser la part congrue aux LLM (grands modèles de langage)" estime-t-il.
La confiance est un actif immatériel
Pour Mickaël Réault, Directeur général de SiteID / Sindup, "la confiance est un actif immatériel stratégique et quantifiable". A ses yeux, l'IA est un défi technologique mais aussi, et surtout, un défi de gouvernance. Et la confiance peut prendre une forme juridique atypique. Sindup est ainsi devenue officiellement une SCIC (Société coopérative d’intérêt collectif) qui fonctionne selon deux principes : la décentralisation et l'immuabilité grâce à un capital inaliénable.
A ce jour, la France compte 1 421 entreprises dotées d'un statut SCIC représentant un chiffre d'affaires de 1,7 milliard d'euros. Le nombre de SCIV a augmenté de plus de 25 % en cinq ans. "Cela crée un socle de confiance car une SCIC est possédée collectivement par ses salariés, ses fournisseurs et ses clients. Sindup est ainsi passée d'un associé (Mickaël Réault) à 48 associés.
Corriger les défauts inhérents à l'IA générative
Appliquée aux corpus documentaires académiques, l'IA pose également des problèmes de confiance selon Sébastien Perrin, Directeur de la Bibliothèque Mines-ParisTech et responsable du département « Services et Prospectives » du consortium universitaire Couperin : "l'IA impacte directement l'ensemble du champ des négociations avec les fournisseurs d'information." C'est le cas pour les négociations courantes, les négociations nationales et les négociations portant sur les outils d'intelligence artificielle.
Couperin a ainsi consigné ses réflexions dans un document (position paper) qui pointe une série de risques très concrets : invisibilisation de certaines sources, plagiat, captation des données des utilisateurs… Objectif : corriger les défauts inhérents à l'intelligence artificielle générative.
