Découvrez L'Archiviste Augmenté, la newsletter thématique gratuite d'Archimag dédiée aux professionnels des archives et du patrimoine !
L’essor de l’intelligence artificielle (IA) dans le domaine de la gestion documentaire s’inscrit dans un contexte global où les organisations ont un champ de possibilités d’exploiter et de réexploiter leur patrimoine informationnel. L’augmentation exponentielle des volumes de données et de documents, à la fois structurés et non structurés, vient ainsi alimenter différents projets et lancements de cas d’usage. Si l’IA promet de nouvelles opportunités pour exploiter ces données et améliorer l’efficacité des processus, elle soulève également des enjeux majeurs en matière de gouvernance, de traçabilité et de conformité. Or, ces enjeux ne se limitent pas à des questions techniques : ils impliquent une coordination étroite entre les métiers de la data, les professions juridiques, ainsi que les professionnels de l’information et de la documentation, tels que les records managers et les archivistes, pour la mise en place d’un suivi documentaire. C’est à la convergence de ces compétences que se mettent en place les projets transverses et les collaborations pour l’implémentation des projets d’IA, basés sur cette notion de confiance.
L’AI Act, un cadre à structurer
Avec l’AI Act, entré en vigueur en juillet 2024, les règles relatives à l’utilisation des systèmes d’IA au sein de l’Union européenne sont désormais connues et diffusées dans une optique d’harmonisation des pratiques et des approches. Si les professions juridiques se sont logiquement emparées de ce texte pour en dégager les premières interprétations et applications concrètes dans différents domaines d’activités, cette réglementation peut être également une opportunité pour les professionnels de l’information de nouvelles responsabilités, notamment en matière de préservation de la documentation des processus des modèles d’IA déployés se basant sur ce cadre normatif.
Lire aussi : Données critiques : reprendre le contrôle avant que l’IA n’accélère le désordre
Le contexte et les objectifs de l’AI Act
L’AI Act a été proposé pour répondre à des préoccupations croissantes. En effet, nous avons tous vu des exemples où des systèmes d’IA ont conduit à des décisions biaisées ou opaques, que ce soit dans le cadre de recrutements, de décisions judiciaires ou de la notation sociale. L’objectif de l’Union européenne est donc de garantir une utilisation éthique, sécurisée et transparente de l’IA, tout en préservant l’innovation, avec une mise en application progressive. L’AI Act vise ainsi à :
- harmoniser les règles en matière d’IA,
- garantir que les systèmes et modèles d’IA commercialisés au sein de l’Union européenne soient utilisés de manière éthique, sûre et respectueuse des droits fondamentaux de l’UE,
- établir des niveaux de risques (minimal, limité, élevé avec impact négatif sur les droits fondamentaux, inacceptable avec menace pour les droits fondamentaux),
- interdire certaines pratiques en matière d’IA, notamment celles présentant des risques inacceptables.
Le rôle des professionnels de la data
Les implications pour la gestion des données sont donc significatives, car la qualité et la traçabilité des données sont des notions primordiales. L’AI Act impose de garantir la provenance des données, leur fiabilité et leur mise à jour régulière. De plus, le volet sur la traçabilité de données (data lineage) souligne l’importance de tracer le parcours des données dans un modèle afin de répondre efficacement aux audits.
Les professionnels de la data joueront donc un rôle crucial dans ces domaines. Parmi eux, les data scientists se concentrent sur les techniques de développement de l’IA et l’adaptation des modèles IA aux nouvelles exigences. Ils doivent ainsi intégrer des mécanismes de documentation et de traçabilité.
Les data managers mettent l’accent sur la gouvernance et l’impact organisationnel, en garantissant la qualité et la traçabilité des données. Ils jouent un rôle clé dans la gouvernance, notamment pour centraliser la documentation sur la conformité des données.
Enfin, les data officers se chargent de la réglementation et de la conformité. Ils supervisent la conformité réglementaire des outils IA, orchestrent les efforts entre les équipes, garantissent la conformité aux normes et surveillent les processus de gestion des risques.
Les défis liés à l’AI Act pour les professionnels de la data sont nombreux et variés. Ce cadre ambitieux apporte son lot de défis, notamment en ce qui concerne la complexité technique.
Articulations naturelles entre métiers : vers une gouvernance documentaire collaborative
Des initiatives concrètes dans les secteurs de l’énergie et de la santé ont démontré les bénéfices d’un rapprochement entre juristes, DPO (délégué à la protection des données), experts data et records managers pour établir une approche commune, responsable et coordonnée dans la mise en œuvre de projets IA. Le dialogue entre juristes, professionnels de l’information et data officers peut être riche pour aligner les politiques de gouvernance documentaire et de gestion des données avec les exigences des métiers de la data. Une collaboration étroite permet de garantir que les pratiques de gestion des données répondent aux standards de qualité et de conformité nécessaires pour les systèmes d’IA.
La proposition d’un cadre pour gérer le cycle de vie des données utilisées par l’IA est essentielle. Ce cadre doit inclure des mesures pour assurer la qualité, l’origine et la conservation des données d’apprentissage. Une gestion rigoureuse de ces données permet de maintenir la fiabilité des modèles IA et de leurs résultats.
Pour éviter les biais documentaires, il est nécessaire d’adopter une approche documentaire qui minimise les risques liés aux biais algorithmiques. Les biais peuvent souvent être attribués à des jeux de données mal sélectionnés ou mal conservés. Une stratégie de gestion des données rigoureuse et bien documentée est donc indispensable pour réduire ces biais et garantir l’équité des décisions prises par l’IA.
L’apport spécifique du records management pour une IA de confiance
La traçabilité et l’auditabilité des modèles IA constituant des éléments cruciaux pour garantir la transparence des décisions prises par les systèmes d’IA, il est essentiel d’archiver les modèles et les données d’entraînement afin de pouvoir retracer les étapes de leur développement et les décisions qu’ils ont générées. La conservation de ces données permet non seulement de comprendre les mécanismes internes des modèles, mais aussi de fournir des pistes d’audit fiables en cas de besoin.
Une IA dite "de confiance" doit intégrer des mécanismes garantissant la conservation et l’intégrité des décisions automatisées. Cela rejoint les principes de l’archivage électronique, où la pérennisation des preuves est primordiale. Les systèmes d’IA doivent donc être conçus pour assurer que les décisions prises restent accessibles et vérifiables sur le long terme.
En matière de conformité et de réversibilité, il est nécessaire de gérer les documents en accord avec les exigences de l’AI Act. Cela inclut la mise en place de procédures pour l’arrêt ou la mise à jour des modèles, garantissant ainsi que les documents associés aux modèles IA restent conformes aux réglementations en vigueur.
Organiser la disponibilité des données et mettre en place une gouvernance efficace sont des étapes essentielles. Il faut garantir la qualité des données en mettant en place des politiques de gestion des données, en assurant leur conformité réglementaire et en encourageant le partage et la mutualisation entre les différentes entités. Le renforcement de la gouvernance passe également par l’uniformisation des standards pour garantir la conformité en matière de sécurité et d’éthique, ainsi que par la centralisation du suivi des performances.
Optimiser la gestion des données est également essentiel. Utiliser des bases distribuées, mettre en cache les données critiques et éviter les duplications par une gouvernance stricte sont des stratégies efficaces pour gérer les données de manière optimale.
L’AI Act ne se limite ainsi pas à la gouvernance générale. Il impacte directement le travail quotidien, notamment la qualité des données, le développement des algorithmes et les pipelines de machine learning. Les métiers de la data jouent un rôle central dans la conformité technique en assurant la transparence et la traçabilité des systèmes développés. Le domaine juridique peut permettre l’élaboration et la mise à disposition de standards sur l’IA éthique, ce qui aide à cadrer les initiatives internes et à éviter les projets non conformes aux réglementations, réduisant ainsi les risques pour l’organisation.
De même, les juristes peuvent également aider dans les relations avec les fournisseurs tiers. Par exemple, dans le cadre de l’achat d’un SIA externe, il faut exiger des garanties contractuelles sur sa conformité, ainsi qu’une documentation exhaustive. Cela assure que tous les systèmes utilisés respectent les normes et les régulations en vigueur, renforçant ainsi la confiance et la sécurité des projets d’IA.
En suivant ces principes, les professionnels de l’information peuvent jouer un rôle déterminant dans la mise en place de systèmes d’IA de confiance. Ils peuvent proposer les principes du records management pour l’identification de la typologie documentaire cible et pour la sélection des données à isoler au moyen des principes de l’archivage électronique, assurant ainsi leur intégration efficace et éthique dans les processus organisationnels, aux côtés des professions juridiques en charge de la data privacy et de la compliance.
Lire aussi : L'IA de confiance dans le domaine documentaire reste un chantier en cours
Intégrer l’IA dans la gestion documentaire
L’intégration de l’IA dans la gestion documentaire nécessite ainsi une approche rigoureuse centrée sur trois points fondamentaux :
- l’archivage et la traçabilité des modèles IA
L’archivage des versions des modèles d’IA est essentiel pour comprendre et expliquer leurs évolutions. Il est important de définir des mécanismes permettant de conserver les jeux de données d’apprentissage, les paramètres des modèles et leurs mises à jour successives. L’objectif est de garantir la rétrospection et la justification des résultats produits par ces IA.
- la gouvernance des données d’apprentissage
Une IA de confiance repose sur des données de qualité, non biaisées et représentatives des réalités qu’elle est censée traiter. Il est donc primordial de mettre en place une gouvernance robuste sur les données d’entraînement et d’utilisation, en impliquant les records managers, data officers, DPO et juristes. Cette gouvernance assure que les données utilisées sont fiables et appropriées.
- l’auditabilité et la conformité réglementaire (AI Act, RGPD, ISO 42001)
L’auditabilité des modèles IA doit devenir une pratique standard. Dans un contexte réglementaire en évolution, notamment avec l’AI Act, le RGPD et les normes ISO 42001, il est indispensable de s’assurer que chaque traitement automatique est explicable et justifiable. Cela passe par la documentation des algorithmes et des données, ainsi que par des audits réguliers. Ces audits permettent de vérifier la conformité des systèmes IA et de garantir leur transparence et leur fiabilité.
En suivant ces principes, les professionnels de l’information peuvent faire valoir leurs compétences dans la gouvernance, la traçabilité et la conformité des systèmes d’IA, assurant ainsi leur intégration efficace et éthique dans les processus documentaires.
L’archivage et la preuve numérique comme piliers de la confiance
L’archivage des algorithmes et des modèles peut constituer un recours pour garantir la traçabilité des décisions prises par une IA, surtout si l’algorithme évolue au fil du temps. Il est nécessaire d’exiger une traçabilité des versions dans un système d’archivage électronique (SAE) certifié, cela permet ainsi une réversibilité et la possibilité de revenir sur une décision prise par une IA en examinant la version précise de l’algorithme utilisé à ce moment-là, avec des éléments auditables autour de la non-modification de ce dernier.
La constitution d’une preuve numérique fiable est un autre facteur de confiance dans les systèmes IA. Les technologies, telles que la blockchain, la signature électronique et l’horodatage peuvent être mises en œuvre pour renforcer cette confiance. Ces technologies assurent l’intégrité et la vérifiabilité des données et des décisions prises par les IA, garantissant ainsi que les traces numériques sont fiables et infalsifiables.
Les échanges interdisciplinaires jouent un rôle important dans la mise en place de ces systèmes de confiance. Il est encore une fois indispensable, dans cette optique, de travailler avec les juristes, les data officers et les professionnels de l’information pour s’assurer que les règles de conservation et d’intégrité des données soient respectées. Cette collaboration permet de créer un cadre solide et cohérent pour l’archivage et la gestion des preuves numériques.
La norme Iso 42001, un possible socle de construction pour un dialogue pluridisciplinaire
L’IA se déploie dans divers secteurs, tels que les ressources humaines, la santé, la cybersécurité, la finance et la logistique. Cependant, au-delà de l’engouement, une réalité s’impose : implémenter un modèle d’IA ne suffit plus. Il est nécessaire de le cadrer, de le documenter, de le superviser et de rendre compte de son fonctionnement. C’est précisément à ce stade que la norme ISO/IEC 42001 peut jouer un rôle prépondérant et être un instrument essentiel au carrefour des métiers de la data, du juridique et du records management.
Habitués à appuyer leur expertise sur les normes balisant le cycle de vie de l’information (ISO 24143 pour la gouvernance de l’information, ISO 15489 pour la gestion des documents d’activité, NF Z 42-026 pour la numérisation fidèle, NF Z 40-350 pour la conservation des archivages sous format papier, NF Z 42-013 pour l’archivage électronique…), les records managers et archivistes ont la possibilité, sur cette nouvelle thématique de l’IA, d’avoir recours à un autre cadre normatif pour être force de proposition et baliser un champ documentaire de références pour accompagner les métiers.
La norme Iso 42001 est un instrument de dialogue possible, un pont entre les métiers, qui peut permettre de concilier différents impératifs : la conformité pour le juridique et le DPO, la technique pour les métiers de la data, la traçabilité documentaire pour les professionnels de l’information et la préservation de données à plus long terme sur les projets de cette nature.
Publiée à la fin de l’année 2023, cette norme établit un cadre de gouvernance pour les systèmes d’IA. Elle permet aux organisations de prouver qu’elles utilisent l’IA de manière responsable, en conformité avec les réglementations, telles que le RGPD et l’AI Act, tout en étant alignées sur leurs objectifs métiers. Elle peut jouer un rôle clé pour aider les entreprises à répondre aux exigences de l’AI Act. Aborder l’IA avec le prisme recette norme signifie comprendre les exigences concrètes en matière de transparence, d’éthique et de robustesse. Cela implique également d’apprendre à structurer un Système de Management de l’IA (SMIA) afin de gérer les risques, de suivre les indicateurs et d’intégrer les parties prenantes dans le cycle de vie des projets IA.
Une réponse peut être apportée avec la norme, qui peut servir de cadre structurant pour documenter et suivre l’évolution des systèmes IA. Elle insiste sur la nécessité de conserver les données d’apprentissage, les versions des modèles et les ajustements successifs afin de garantir une traçabilité complète. Par exemple, ce principe de traçabilité a été mis en œuvre dans le cadre de projets data, assurant une transparence accrue dans le traitement des données documentaires.
Elle permet ainsi une approche avec les principes suivants : équilibrer innovation et gouvernance, établir des sauvegardes robustes, démontrer un engagement éthique, et gérer l’apprentissage continu.
Lire aussi : Gouvernance de l'information numérique en 2026 : comment l’IA a pris le pouvoir
Une complémentarité claire avec l’AI Act
La norme Iso/IEC 42001 propose une gouvernance structurée pour la conception, le développement et le déploiement des systèmes d’IA. Elle facilite la mise en conformité avec l’AI Act en apportant des processus standardisés, réduisant ainsi les incertitudes réglementaires. Là où l’AI Act définit quoi faire, l’Iso 42001 explique comment le faire, à travers des pratiques éprouvées sur la gouvernance, l’évaluation des risques, la transparence et l’auditabilité, le cycle de vie et enfin la documentation à mettre en place. Elle fournit un cadre opérationnel pour formaliser des pratiques essentielles, telles que la documentation automatisée des workflows IA et le monitoring continu des modèles après déploiement. Elle permet ainsi de garantir une conformité durable et maîtrisée.
Son adoption présente plusieurs bénéfices concrets : l’optimisation des efforts de conformité, le renforcement de la compétitivité, la réduction des risques juridiques
Conclusion : faire des professionnels de l’information des contributeurs parmi les garants de l’IA de confiance
L’IA appliquée aux archives et à la gestion documentaire constitue une opportunité stratégique pour structurer les données et fiabiliser les processus. Mais ce potentiel ne peut être pleinement réalisé qu’en s’appuyant sur une gouvernance rigoureuse, une traçabilité éprouvée et un haut niveau de conformité. Les professionnels de l’information ont ici un rôle clé à jouer pour participer à garantir la pérennité et la fiabilité des initiatives IA en faisant montre d’une ouverture et d’un dialogue avec les métiers de la data et du juridique.
La prochaine étape consiste à évaluer l’intégration de l’IA dans les processus documentaires en veillant à sa conformité avec le cadre réglementaire européen et à la transparence pour les utilisateurs. Cela implique la mise en place de dispositifs de suivi, d’audit et de contrôle des modèles, ainsi qu’un effort de formation continue pour développer une réelle culture de la maîtrise des outils IA.
Les divers travaux menés sur la notion d’IA de confiance offrent une base précieuse pour élaborer des guides sectoriels intégrant des cas d’usage concrets et des bonnes pratiques. Une opportunité pour les records managers et archivistes de réaffirmer leur rôle stratégique dans la gouvernance documentaire et l’encadrement des projets IA.
Jean-Mathieu Bonnefous
[Directeur Document et Information Management chez Servier]
