Frugalia : mesurer les modèles de langage pour réduire les ressources mobilisées

Frugalia est un projet de recherche qui cherche à mieux mesurer, puis à réduire, les ressources mobilisées par les modèles de langage lorsqu’ils traitent des requêtes. Porté par DRI, EasyVirt et l’école d’ingénieurs IMT Atlantique, il se déroule sur 30 mois. L’enjeu ne consiste pas à créer un nouveau modèle, mais à examiner plus finement ce qui se passe au moment de l’utilisation, lorsque le système analyse une demande et génère une réponse.

Cette démarche replace les usages de ces systèmes numériques dans leurs conditions concrètes d’exploitation. La taille du modèle, la configuration de l’infrastructure, la longueur des échanges et l’adéquation entre une question et la puissance mobilisée figurent parmi les paramètres que Frugalia entend étudier. Les partenaires veulent produire des éléments utilisables à la fois par la recherche et par les organisations qui hébergent ou utilisent ces services.

Mesurer avant de chercher à réduire

Selon Sciences et Avenir, Frugalia se concentre sur les modèles de langage hébergés par DRI, qu’il s’agisse de modèles open source ou d’accès, par API, à des modèles propriétaires. Le projet vise à comprendre leur consommation énergétique et les facteurs qui la font varier, notamment selon la taille des modèles ou les caractéristiques de l’infrastructure qui les exécute.

Les chercheurs souhaitent aboutir à un modèle mathématique prédictif. Son rôle serait d’estimer la consommation énergétique d’un nouveau modèle de langage dans un datacenter sans devoir réaliser au préalable des mesures. Une telle capacité ne remplace pas l’observation des usages réels, mais elle pourrait fournir un repère lors de l’arrivée d’un modèle ou d’un changement de configuration technique.

La mesure constitue ici une étape centrale. Les performances d’un modèle ne renseignent pas, à elles seules, sur les ressources nécessaires pour produire une réponse. Comparer les solutions à partir de leur seule qualité perçue laisse de côté une donnée importante pour les opérateurs et leurs clients : la relation entre le niveau de service attendu et les moyens informatiques effectivement engagés.

Le programme associe un hébergeur, une entreprise spécialisée dans la mesure de l’empreinte environnementale des infrastructures informatiques et une école d’ingénieurs. Cette composition correspond au périmètre des travaux : observer des modèles employés dans une infrastructure, étudier leurs comportements et transformer les résultats en méthodes reproductibles.

Cette approche suppose aussi de distinguer les situations étudiées. Un même modèle peut ne pas mobiliser les mêmes ressources selon le matériel qui l’exécute ou selon les paramètres retenus. Frugalia entend précisément documenter ces écarts afin de mieux caractériser les choix techniques qui influencent la consommation lors du traitement des demandes.

Routage et réponses plus brèves, deux pistes à l’étude

Frugalia prévoit également un mécanisme de routage. L’idée est d’orienter une requête vers un modèle moins consommateur lorsque sa complexité le permet, tout en préservant la qualité de la réponse annoncée. Ce dispositif est présenté comme un développement à venir, et non comme une fonction déjà disponible pour les utilisateurs.

À terme, le client pourrait choisir un modèle selon l’équilibre entre sa capacité à répondre à une demande et sa consommation de ressources. Le choix pourrait aussi être proposé de manière automatisée et transparente. Cette perspective suppose toutefois que les mesures et le modèle de prédiction soient suffisamment fiables pour comparer des situations différentes, sans réduire la décision à un seul indicateur.

Le troisième axe porte sur les formulations adressées aux modèles. Le projet prévoit un optimisateur de prompts destiné à obtenir des requêtes et des réponses pertinentes, mais plus concises. L’objectif est de limiter les calculs nécessaires à l’inférence, c’est-à-dire à l’analyse d’une demande puis à la génération d’un résultat.

Cette distinction est importante. Frugalia ne vise pas l’entraînement d’un nouveau modèle de langage. Il cible l’étape de l’inférence, celle qui correspond aux échanges au fil des usages. Une réponse inutilement longue peut donc constituer une piste d’optimisation, sans que cela implique qu’une réponse courte soit systématiquement préférable. La pertinence reste le critère nécessaire pour évaluer une telle réduction.

Le projet s’intéresse ainsi à l’ensemble de la chaîne qui relie une demande formulée par un utilisateur à la réponse produite. Il ne s’agit pas seulement de sélectionner un modèle, mais aussi d’observer la manière dont une requête est traitée et la longueur de la réponse délivrée. Les gains envisagés restent dépendants de la capacité à maintenir une réponse adaptée au besoin exprimé.

Un objectif environnemental encore à démontrer

Les partenaires espèrent réduire de 20 à 50 % l’impact carbone des usages concernés. Cette fourchette doit être lue comme un objectif, non comme un résultat démontré. Comme le rapporte Le Figaro, le consortium précise qu’il est encore trop tôt pour prédire la réduction qui pourrait être obtenue grâce aux différentes innovations envisagées.

Le projet dispose de près d’un million d’euros et ses travaux doivent être développés en open source. Les partenaires prévoient de mettre à disposition un jeu de données de référence, des protocoles expérimentaux reproductibles et un benchmark de performance énergétique. Ces livrables peuvent compter autant que les outils eux-mêmes : ils donnent la possibilité de comparer des méthodes et de discuter les résultats sur une base partagée.

Pour le lecteur, le changement attendu n’est donc pas une baisse automatique et immédiate de l’empreinte de chaque requête. Frugalia cherche d’abord à rendre visibles des arbitrages souvent absents de l’usage quotidien : quel modèle est nécessaire, quelle infrastructure le fait fonctionner et quel niveau de réponse est réellement utile. La réponse du projet dépendra de la qualité des mesures, des choix de déploiement et de la capacité à conserver un service adapté tout en réduisant les ressources mobilisées.

Photo à la une. Source: Pexels. Attribution: Brett Sayles. Licence: Pexels License.