CET ARTICLE A INITIALEMENT ÉTÉ PUBLIÉ DANS ARCHIMAG N°384
Au sommaire :
- Dossier : Secteur public: comment l’administration pilote sa digitalisation
- Sous le capot des IA du secteur public
- La formation au cœur de la transformation digitale du secteur public
- Avec l’IA, France Travail réinvente l’accompagnement vers l’emploi
- À Chartres, l'IA parle aux habitants
Découvrez Le Brief de l'IT, la newsletter thématique gratuite d'Archimag qui vous informera sur les sujets de la digitalisation, de l'intelligence artificielle, de l'IT, de l'information et des data. Toujours plus en phase avec vos problématiques et vos projets du quotidien, retrouvez cette newsletter toutes les deux semaines.
En février dernier, le ministère de la Défense annonçait le déploiement de GenIAl.intradef. Cet agent conversationnel, assistant rédactionnel pour la traduction ou la synthèse, s’adresse aux agents civils et militaires dépendants de l’administration. À Nantes, la société Verteego a été sollicitée pour mettre en place un outil d’IA visant à lutter contre le gaspillage alimentaire dans les cantines.
Et dans plusieurs municipalités, comme à Chartres (voir page 20) ou à Plaisir, des IA conversationnelles sont déployées pour répondre à des questions simples des administrés et soulager les agents publics. Si les exemples de mise en œuvre d’outils d’IA sont multiples, comment sont-ils déployés ?
À la Dinum, l’incubateur ALLiaNCE existe depuis juillet 2023. Nous accompagnons les innovateurs des administrations publiques, que ce soit pour le déploiement de l’IA au sein d’outils existants, pour développer une nouvelle solution ou pour les aider à utiliser un service issu d’une entreprise privée", explique Ishan Bhojwani, chef du département Incubateur de services numériques. "Nous avons une vision stratégique sur la façon dont l’IA peut constituer une aide et sur la mutualisation des ressources entre administrations. Nous offrons aussi un appui opérationnel pour l’intégration de ces technologies et établissons un cadre de confiance afin de lever les craintes et adopter une IA éthique et souveraine".
L’objectif d’ALLiaNCE est de permettre au secteur public de s’emparer plus facilement de l’IA et de rester à la page. L’incubateur peut également cofinancer des initiatives via le Fonds pour la transformation de l’action publique. "Nous soutenons des projets qui servent à toute l’administration", précise Ishan Bhojwani.
Si les acteurs publics sont les principaux interlocuteurs d’ALLiaNCE, les entreprises privées font partie de l’écosystème. "Avec la Direction générale des entreprises, nous avons pour mission d’identifier des entreprises privées qui peuvent répondre aux besoins des administrations", reprend Ishan Bhojwani. Dans cette perspective, un appel à manifestation d’intérêt a été lancé le 7 avril dernier autour de solutions "sur étagère" d’IA générative.
Lire aussi : Comment nourrir l’IA avec de bonnes data ?
Albert API pour débuter
L’incubateur propose la marque de solutions Albert. "Cette API est connectée à des modèles open source issus de Mistral, de Google, de Meta… Elle n’est pas liée à un fournisseur unique : nous choisissons les modèles les plus adaptés à chaque usage", indique Ishan Bhojwani. "Cela permet à n’importe quelle administration d’avoir un point d’entrée unique à des solutions de RAG ou encore de speech-to-text et de pouvoir faire des tests de manière rapide". Une solution pour créer un agent conversationnel sera disponible prochainement dans le package Albert API. "Ces outils sont indispensables", reprend-il. "Il faut que les agents puissent s’en emparer, tester et comprendre leur cas d’usage". C’est aussi une façon pour eux de "parler la même langue" que les entreprises privées avec lesquelles ils sont amenés à collaborer.
Si la Dinum apporte une approche globale, beaucoup d’organismes publics prennent aussi le virage de l’IA.
C’est le cas du Sictiam, un opérateur public de services numériques basé à Sophia Antipolis, dans les Alpes-Maritimes, qui fonctionne autour de trois activités : l’accompagnement de collectivités et de structures satellites aux communes sur les enjeux et défis de la transition numérique, le déploiement de la fibre optique et d’énergies renouvelables sur le territoire des Alpes-Maritimes et la gestion de la Maison de l’intelligence artificielle, vouée à fusionner définitivement avec le Sictiam. "Tout le monde parle d’IA, mais c’est un peu un terme marketing", explique José Ammendola, directeur général des services au Sictiam. "À quoi servent-elles ? Pourquoi et comment les utiliser ?... C’est pour répondre à ces questions que nous avons mis en place des programmes de sensibilisation et d’acculturation sur ce thème".
Lire aussi : Félicien Vallet : "La Cnil a vocation à créer du "droit souple" dans le domaine de l'IA"
Un cadre de confiance indispensable
Selon José Ammendola, l’adoption d’outils d’IA dépend de trois ingrédients indispensables : "de la data et une bonne gouvernance, des infrastructures pour faire tourner les modèles et des cas d’usage".
L’opérateur public a surtout été sollicité par de moyennes et de grandes collectivités pour faire leurs premiers pas en IA (optimisation de la gestion des ressources, automatisation des processus, gestion de la relation usager…). "Nous travaillons aussi sur une charte de bons usages pour attirer l’attention sur les différents risques (shadow IT, divulgation de données), mais également sur les biais et sur l’impact environnemental des IA".
La Métropole de Nantes a elle aussi établi sa propre doctrine politique. "Nous refusions d’expérimenter l’IA sans cadre", explique Marie Bernard, cheffe de projet innovation et numérique à Nantes Métropole. La métropole s’est ainsi dotée d’une "boussole de l’IA" composée de sept critères structurant l’usage de l’intelligence artificielle au sein du territoire :
- pas d’identification biométrique ou de données sensibles ;
- transparence et redevabilité ;
- conformité au cadre juridique et cybersécurité ;
- amélioration du service public ;
- amélioration des conditions de travail des agents ;
- sobriété énergétique ;
- plus-value de l’utilisation de l’IA.
En mars 2024, la Métropole a lancé une discussion ouverte avec ses administrés pour comprendre leur perception et les informer sur ses initiatives. "L’objectif était aussi de voir si notre “boussole” correspondait aux idéaux des citoyens, précise Marie Bernard. Nous avons travaillé avec des sémiologues et des spécialistes de l’IA pour interpréter les verbatims que nous avons récoltés". Si les ressentis ont évolué jusqu’à l’été 2024, Marie Bernard constate deux grandes préoccupations qui persistent : d’un côté, une inquiétude face à l’impact écologique de l’IA, et, de l’autre, un besoin de garder le contrôle et d’être informé sur ses usages.
La transparence, un enjeu démocratique
Quels en sont les impacts de l’utilisation de l’IA et des algorithmes sur la société, et plus largement sur le fonctionnement de l’État ? C’est à cette question qu’entend répondre l’Observatoire des algorithmes publics (ODAP), fondé en 2024 par Camille Girard-Chanudet (sociologue, chercheuse postdoctorale au Cnam), Estelle Hary (designer et chercheuse indépendante) et Soizic Penicaud (consultante et chercheuse indépendante sur les effets de l’IA sur les droits humains).
“Il y a un manque de transparence sur le fonctionnement et l’application de ces technologies qui servent avant tout des politiques publiques”, constate Soizic Penicaud. “Nous nous interrogeons davantage sur l’infrastructure autour de ces systèmes : dans quel but sont-ils mis en œuvre ? Comment ont-ils été financés ? Ont-ils été évalués ? Et sur quels jeux de données ?...”
L’ODAP a mis en ligne le premier inventaire des algorithmes publics, qui recense déjà 72 projets abandonnés, déployés ou en expérimentation. "Ce travail ne doit pas se substituer au devoir de transparence de l’État", précise Soizic Pénicaud. "Il permet d’ouvrir le débat dans une logique démocratique". Selon cet observatoire, "seuls 4 % des algorithmes répertoriés dans l’inventaire ont fait l’objet d’une évaluation interne diffusée publiquement".
Lire aussi : Camille Girard-Chanudet : "La Cour de cassation recourt à l'IA pour anonymiser les décisions de justice"
