Intelligence artificielle (IA)
Tendance
Certifier une IA ouverte ne garantit rien sur ses versions modifiées
Télécharger, modifier ou seulement tester de l’extérieur : pour Laurent Daudet (ENS), l’accès aux paramètres d’une IA change son contrôle et sa rentabilité.
Par
Marine Descamps
4 min de lecture
En bref
- Un modèle fermé se teste de l’extérieur ; un modèle à poids ouverts se télécharge, se fait tourner sur ses propres serveurs et se modifie.
- Poids ouverts et open source intégral ne sont pas synonymes : le second livre aussi données et code d’entraînement.
- La certification d’une version ne dit rien des versions modifiées qui en dérivent, souligne Laurent Daudet.
- Sans redevance à l’usage, les modèles ouverts pèsent sur l’économie des modèles fermés américains.
Une IA fermée garde ses paramètres internes hors de portée de l’utilisateur, une IA ouverte les met à disposition : on peut les télécharger et les modifier. Cette différence technique commande la manière de contrôler ces systèmes, de les employer et de les rentabiliser, comme l’explique Laurent Daudet, directeur exécutif chargé de l’IA à l’ENS (École normale supérieure), dans un entretien publié par Sciences et Avenir.
Réguler sans ouvrir le capot
Plus de 400 scientifiques, dont Geoffrey Hinton et Yoshua Bengio, appellent à créer une instance internationale qui veillerait à la sûreté des systèmes d’IA. Leur appel rejoint celui d’Anthropic (Claude) et d’OpenAI (ChatGPT), deux sociétés qui recommandent elles aussi une régulation, alors que leurs modèles sont fermés.
Le contrôle reste pourtant possible. Une structure indépendante pourrait interroger ces modèles des milliers de fois afin d’évaluer s’ils fournissent des instructions dangereuses, s’ils se laissent détourner de leurs interdits ou s’ils aident à mener des cyberattaques. La logique rappelle les essais de sécurité d’une voiture : on vérifie les normes sans connaître les secrets industriels du constructeur. La certification porterait sur les comportements observables, non sur le fonctionnement interne.
Poids ouverts, open source : deux réalités distinctes
DeepSeek, conçue en Chine, est dite ouverte. Selon Laurent Daudet, cela signifie « Qu’un utilisateur peut télécharger les paramètres et les modifier. » Des chercheurs indépendants peuvent alors l’étudier sans dépendre du fournisseur. Ces paramètres, appelés poids, sont les coefficients numériques d’un réseau de neurones, appris sur de grandes bases de données ; les grands modèles de langage actuels en comptent plusieurs centaines de milliards.
| Type de modèle | Ce qui est accessible | Exemples cités |
|---|---|---|
| Fermé | Aucun paramètre interne | Claude, ChatGPT |
| Poids ouverts | Téléchargement, usage sur ses serveurs, modification sans licence payante | Modèles chinois, certains modèles de Mistral |
| Open source intégral | Poids, données, code d’entraînement et éléments du post-entraînement | Modèles surtout universitaires |
Gratuit ne veut pas dire sans coût : il faut des serveurs capables de faire tourner ces modèles. L’apprentissage se déroule par ailleurs en deux temps, un pré-entraînement nourri de vastes corpus de textes, puis un post-entraînement qui s’appuie surtout sur des ensembles d’instructions.
L’affinage, entre spécialisation et détournement
Modifier les poids permet d’adapter un modèle à un métier. Un cabinet d’avocats peut ainsi constituer un jeu d’exemples de questions juridiques et de réponses rédigées par ses juristes ; un algorithme compare les productions du modèle à celles des professionnels et ajuste certains paramètres pour réduire l’écart. Le même procédé peut toutefois rendre un modèle plus efficace pour la cyberattaque, une question devenue sensible depuis les incidents de cet été chez Hugging Face.
Pour
Étude et expérimentation indépendantes du fournisseur, adaptation à un domaine précis.
Contre
Garde-fous supprimables après téléchargement, détournement possible vers la cyberattaque.
Pour Laurent Daudet, un modèle ouvert peut tout à fait être certifié ; la difficulté tient au fait qu’une version validée n’offre aucune assurance sur les variantes modifiées qui en seront tirées. Il juge que ces modèles déplacent le risque, et il ajoute : « Je pense néanmoins qu’il est important de développer un écosystème dans lequel les utilisateurs puissent choisir, selon leurs besoins, entre modèles ouverts et modèles fermés. » Il relève également qu’il y a cinq ans, seules quelques équipes très pointues, souvent appuyées par des États, savaient monter des cyberattaques élaborées, quand des ingénieurs bien moins experts y parviennent aujourd’hui.
Une économie bousculée
Les modèles ouverts fragilisent en partie l’équilibre financier des modèles fermés, en majorité américains (OpenAI, Anthropic, Google). Laurent Daudet voit aussi dans l’appel des géants américains à la régulation une manière, en quelque sorte, de « fermer la porte » après leur passage ; il juge cette lecture pertinente, sans la tenir pour prouvée.
- Côté usage, pas de redevance comparable à celle des modèles fermés, mais des coûts d’ingénieurs et de serveurs.
- Côté chinois, « L’enjeu pour la Chine est de faire basculer l’ensemble de son industrie vers l’usage de l’IA aussi vite que possible. »
- Côté revenus, des pistes évoquées pour DeepSeek ou Moonshot : modèles génériques gratuits et modèles pointus payants, offres hybrides, services de spécialisation sectorielle.
Selon Laurent Daudet, les entreprises chinoises du secteur perdent pour l’instant de l’argent ; comme pour le logiciel libre, une large diffusion pourrait venir d’abord, et la vente de modèles plus performants ensuite.
Photo : Keith4048 / Wikimedia Commons
