Réduire de 20 à 50 % l'empreinte carbone de l'intelligence artificielle générative, telle est l'ambition de Frugalia. Doté d'un budget d'un million d'euros sur 30 mois, ce projet de recherche associe des acteurs privés (l'hébergeur web DR, l'éditeur de solutions de mesure environnementale des serveurs Easyvirt) et IMT Atlantique (établissement Institut Mines-Télécom). Les trois entités vont travailler de concert pour développer une solution de mesure, de prédiction et d'optimisation de l'impact carbone des usages d'IA générative, de la requête utilisateur à l'infrastructure matérielle.
"L’enjeu final est de donner aux utilisateurs la vision sur leur consommation énergétique et surtout de leur proposer des leviers d’usages responsables des IAs" explique Régis Josso, président de DRI.
Des prompts éco-conçus
Le déroulement de ce projet de recherche sera organisé en trois temps à commencer par la conception d'un premier modèle de mesure et de prédiction de l’impact carbone des IA. Cette première phase est prévue pour durer 18 mois. Dans un deuxième temps,
un "routage IA" permettra de développer des outils de sélection et un routeur intelligent d’IA pour orienter l’utilisateur vers le modèle le plus pertinent. Puis Frugalia s'attellera à la création d'un optimisateur automatique de prompts éco-conçus : "alors que l’usage dépasse l'entraînement en termes de consommation énergétique, l’enjeu est de développer les techniques de préprocessing pour réduire la complexité du prompt et la longueur des réponses induites, influençant directement cette consommation" précisent les porteurs du projet.
Concrètement, cette dernière phase vise plusieurs objectifs : l’élimination des répétitions, la simplification du vocabulaire ou de la syntaxe, la prise en compte du contexte et de l'historique des échanges, et les formats de sortie.
