Lê Nguyên Hoang : "Il faut restreindre les droits d’accès des agents IA"

 RETROUVEZ CET ARTICLE ET PLUS ENCORE DANS NOTRE MAGAZINE - DOCUMENTS, DONNÉES, IA : BÂTIR UNE CHAÎNE DE PREUVE CONFORME

 Découvrez Le Brief de l'IT, la newsletter thématique gratuite d'Archimag dédiée aux professionnels des data, de l'IT, de la digitalisation et de la transformation numérique !

Aujourd’hui, tout le monde connaît l’IA générative, mais peu de gens ont entendu parler de l’IA agentique. De quoi s’agit-il et quels sont ses apports concrets ?

L’IA agentique s’apparente à un chatbot doté d’un "bras armé" qui lui permet d’agir directement sur nos machines. Elle peut ainsi lire ou envoyer des e-mails, modifier notre calendrier, et ainsi de suite. Contrairement à l’IA générative, qui se contente d’apporter des réponses, l’IA agentique réalise des actions. Alors que les IA conversationnelles se limitent à parler d’une certaine manière, les agents IA sont des systèmes qui agissent, comme leur nom l’indique.

Pour les entreprises, les apports concrets de l’IA agentique se situent plutôt au niveau du développement logiciel. Très concrètement, lorsqu’un développeur conçoit une solution, il peut demander à son IA agentique de modifier directement les documents enregistrés sur le disque dur. Ainsi, l’agent va lui-même coder des éléments qui seront enregistrés, et potentiellement exécutés, sur la machine.

Lire aussi : IA en entreprise : encadrer les usages sans freiner l’expérimentation

Quel niveau de confiance une entreprise peut-elle accorder à l’IA agentique ?

Tout dépend des droits d’accès que l’on accorde à cette IA. Il faut imaginer l’IA agentique comme une tierce personne à qui vous confiez votre téléphone ou votre ordinateur, et qui serait capable d’y effectuer de nombreuses actions. Si l’on souhaite éviter qu’elle ne commette des erreurs ou des actes malveillants (comme exfiltrer des e-mails, des secrets professionnels, des mots de passe ou des clés d’authentification, publier en votre nom sur les réseaux sociaux, ou encore accéder à votre compte en ligne), il faut impérativement restreindre ses droits d’accès. L’agent utilisera votre ordinateur, mais dans un mode limité qui l’empêchera de réaliser des actions irréversibles ou dangereuses.

L’IA agentique est-elle, comme l’IA générative, sujette aux biais cognitifs ?

Oui, tout à fait. L’IA agentique reste un chatbot auquel on a greffé un bras armé. Par conséquent, toutes les failles et les hallucinations propres à ces systèmes persistent. Là où cela devient beaucoup plus dangereux, c’est que les agents risquent de réaliser des actions irréversibles fondées sur ces hallucinations.

Vous affirmez que votre première ambition est de démythifier les agents IA. Diriez-vous que nous sommes collectivement dans une forme de naïveté face aux promesses de l’intelligence artificielle ?

Le terme "naïveté" n’est peut-être pas le plus adéquat, mais il est très clair que la plupart d’entre nous ne comprennent pas bien ces systèmes. À vrai dire, personne ne les comprend totalement, car ils sont gigantesques, propriétaires, privés et fermés, ce qui empêche de saisir leurs mécanismes internes.

ChatGPT, par exemple, n’est pas simplement un modèle de langage. OpenAI a greffé de nombreuses couches par-dessus. Savoir où vont les données ou encore quelle est la protection légale se révèle aujourd’hui très complexe. Plus que de la naïveté, il y a beaucoup d’ignorance autour de ces systèmes. On manque d’efforts pour comprendre ce que cette ignorance implique et pour exiger davantage de transparence, notamment en matière de conformité avec les lois existantes (droit d’auteur, protection des données personnelles, responsabilité éditoriale des algorithmes).

Lire aussi : Marie Dollé : “il existe une facette optimiste de l’IA”

Vous consacrez plusieurs pages au risque de piratage des services d’IA. Quel est l’état de la menace aujourd’hui ?

Cette menace est omniprésente. La cybersécurité est devenue de plus en plus complexe ces dernières années en raison de la multiplication des failles. L’IA intervient ici des deux côtés : en défense, elle permet de faire de la veille et du monitoring sur les systèmes d’information pour détecter les attaques, en attaque, elle est considérablement exploitée par les cybercriminels.

Mais ce qui est encore plus préoccupant, c’est que les attaquants utilisent ces technologies pour construire un mécanisme d’exploitation global : une fois la faille trouvée, il leur suffit de concevoir un logiciel pour l’exploiter afin de paralyser un système ou exfiltrer des données. L’IA a grandement facilité la tâche de ces cybercriminels qui, à la base, ne sont pas forcément très compétents, mais qui deviennent beaucoup plus nombreux. On assiste à une prolifération d’attaques massives et dangereuses menées par toutes sortes d’acteurs, ciblant des systèmes qui n’ont pas encore été corrigés. Cela crée une véritable course contre la montre pour appliquer les correctifs de sécurité (les "patchs"). Aujourd’hui, un système non mis à jour est infiniment plus vulnérable qu’il ne l’était il y a quelques années.

Faut-il s’inquiéter des annonces d’Anthropic sur la puissance phénoménale de ses nouveaux modèles ?

Le paysage de la cybersécurité est préoccupant, avec ou sans Anthropic. Des modèles équivalents existent désormais en grand nombre et ont été répliqués un peu partout. Pour armer les cybercriminels, nul besoin du tout dernier modèle, les systèmes actuels suffisent amplement.

Quel espace reste-t-il à un acteur français, comme Mistral AI, pour exister face aux géants chinois et nord-américains ?

Tout dépendra de la commande publique, des préférences individuelles et de la régulation. Si l’on considère que les IA posent un risque majeur de cybersécurité et que l’usage d’agents non sécurisés met en danger les clients — entraînant des responsabilités légales —, alors le cadre juridique devient une arme de protection.

Ce dispositif légal européen, bien qu’attaqué de toutes parts, reste très avancé grâce à l’AI Act et au RGPD. S’il est fermement appliqué, il protégera des solutions plus souveraines et responsables, qu’il s’agisse de Mistral ou d’autres. Notons d’ailleurs que Mistral n’est pas irréprochable et a massivement exploité des données sous droit d’auteur. Il est plus facile de faire émerger une industrie numérique souveraine et responsable si l’on met en place les lois pour l’encourager.

Lire aussi : Chatbots, faut-il vraiment tout automatiser ?

Est-il réaliste d’imaginer une IA démocratique au service de l’intérêt général, comme vous le faites au sein de votre association Tournesol ?

Oui, c’est tout à fait réaliste. Je pense que nous avons perdu une part de notre imagination à cause du marketing agressif des géants du numérique, qui a restreint notre capacité à concevoir un modèle alternatif. Nous nous sommes habitués à l’idée d’un chatbot unique, monolithique, géré par une entreprise privée.

Pourtant, le champ des possibles est bien plus vaste. On peut l’ouvrir en proposant des solutions alternatives et en s’appuyant sur un cadre légal protecteur. Notre association plaide en faveur d’un numérique responsable de quatre piliers : la transparence, la sécurité, l’intentionnalité et le principe fédérateur. Nous poussons pour que ces quatre piliers deviennent la grille d’évaluation éthique d’un numérique souhaitable, soutenu par des dispositifs légaux.

Est-il facile de se faire entendre des décideurs, lorsque l’on tient ce discours ?

Si vous m’aviez posé la question il y a un an, je vous aurais répondu que c’était presque impossible, tant les lobbyistes du numérique sont puissants à Bruxelles, bien devant ceux du tabac ou de l’agroalimentaire. C’est donc un combat difficile, mais les lignes bougent grâce à des initiatives citoyennes issues des réseaux sociaux. Les sondages montrent que 80 % des Français estiment qu’il est urgent de réguler drastiquement le numérique. Fort de ce soutien populaire, il est plus facile de se faire entendre. De plus, la jurisprudence sur les algorithmes de recommandation a énormément progressé ces derniers mois.