Fine-tuning (réglage fin d'un modèle d'IA)

Le fine-tuning, ou réglage fin, consiste à poursuivre l'entraînement d'un modèle d'intelligence artificielle déjà pré-entraîné sur un jeu de données plus petit et spécifique, pour le spécialiser sur une tâche, un domaine ou un style. C'est la troisième voie entre écrire un bon prompt et entraîner un modèle de zéro, avec ses cas d'usage et ses limites.

Définition détaillée du fine-tuning

Un grand modèle de langage est d'abord pré-entraîné sur des milliards de mots pour apprendre la langue, les faits et les raisonnements courants. Ce pré-entraînement coûte des millions d'euros et n'est à la portée que de quelques laboratoires. Le fine-tuning intervient ensuite : on reprend le modèle avec ses milliards de paramètres et on l'entraîne encore, brièvement, sur quelques centaines à quelques dizaines de milliers d'exemples choisis, de façon à déplacer légèrement ses poids vers le comportement souhaité.

Les modèles conversationnels que le public utilise sont eux-mêmes le fruit d'un fine-tuning : le modèle de base, qui ne fait que compléter du texte, a été affiné sur des exemples de dialogues (instruction tuning) puis aligné par apprentissage par renforcement à partir de retours humains (RLHF). Le fine-tuning que réalise une entreprise ajoute une couche de spécialisation à ce modèle déjà affiné.

Les méthodes

Le fine-tuning complet

Tous les paramètres du modèle sont mis à jour. C'est la méthode la plus puissante et la plus coûteuse : elle exige la mémoire nécessaire pour stocker le modèle entier et ses gradients, et produit une copie complète du modèle par version.

Le fine-tuning efficace (PEFT)

Les méthodes de Parameter-Efficient Fine-Tuning ne modifient qu'une petite fraction des paramètres, ou ajoutent de petites matrices entraînables à côté du modèle figé. La plus répandue est LoRA (Low-Rank Adaptation) et sa variante quantifiée QLoRA, qui permettent d'affiner un modèle de plusieurs milliards de paramètres sur une seule carte graphique. Le résultat est un « adaptateur » de quelques dizaines de mégaoctets, que l'on active par-dessus le modèle de base.

Le fine-tuning par API

OpenAI, Google (Vertex AI), Mistral et les plateformes d'hébergement de modèles ouverts (Hugging Face, Together, Fireworks) proposent le fine-tuning comme un service : on envoie un fichier d'exemples au format prompt/réponse attendue, la plateforme entraîne et héberge le modèle affiné, facturé à l'usage. C'est la voie la plus accessible pour une équipe sans infrastructure.

Fine-tuning, prompt ou RAG : que choisir ?

Trois techniques répondent à trois besoins différents, et se combinent :

• Le prompt engineering suffit dans la majorité des cas : instructions détaillées, exemples dans le prompt (few-shot), format de sortie imposé. Aucun entraînement, modification instantanée, et les modèles récents suivent des consignes longues.
• Le RAG sert à donner au modèle des connaissances qu'il n'a pas : documentation interne, données récentes, catalogue. Le fine-tuning est un mauvais moyen d'injecter des faits, qu'il retient mal et sans source.
• Le fine-tuning sert à changer un comportement : un style et un ton constants, un format de sortie strict, une tâche de classification ou d'extraction répétitive, un vocabulaire métier, une langue ou un domaine peu représentés dans l'entraînement initial. Il permet aussi de remplacer un grand modèle coûteux par un petit modèle affiné, plus rapide et moins cher, sur une tâche précise.

Les usages en SEO et en marketing

• Classer des requêtes par intention ou par thématique, à grande échelle, avec une taxonomie propre à l'entreprise.
• Extraire des attributs de fiches produits, d'avis ou de pages concurrentes dans un format structuré.
• Tenir une charte éditoriale : un modèle affiné sur des centaines de textes validés reproduit le ton d'une marque de façon plus stable qu'un prompt.
• Rédiger des métadonnées (titres, meta descriptions, textes alternatifs) selon des règles maison.
• Traduire ou adapter avec la terminologie d'un secteur.

Les conditions de réussite et les pièges

• La qualité des exemples prime sur leur nombre : quelques centaines d'exemples relus valent mieux que des dizaines de milliers d'exemples bruités. Le modèle apprend aussi les erreurs.
• Un jeu de validation séparé, pour mesurer la performance sur des cas jamais vus et arrêter l'entraînement avant le surapprentissage, où le modèle récite ses exemples et généralise moins.
• L'oubli catastrophique : un fine-tuning trop agressif dégrade les capacités générales du modèle. Les méthodes PEFT et un faible taux d'apprentissage limitent le risque.
• La maintenance : un modèle affiné est lié à une version du modèle de base ; quand celui-ci évolue, il faut refaire le fine-tuning. Un prompt, lui, se transporte.
• La confidentialité : les exemples envoyés à une API de fine-tuning sortent de l'entreprise ; les données sensibles imposent un modèle ouvert hébergé en interne.

FAQ

Quelle différence entre pré-entraînement et fine-tuning ?

Le pré-entraînement apprend au modèle la langue et le monde à partir de corpus immenses, une fois, à un coût de plusieurs millions d'euros. Le fine-tuning reprend ce modèle et l'ajuste sur un petit jeu d'exemples ciblés, en quelques heures, pour un usage précis. Le premier crée les capacités, le second les oriente.

Combien d'exemples faut-il pour un fine-tuning ?

De quelques dizaines pour ajuster un format ou un ton, à quelques milliers pour une tâche de classification fine. Les plateformes recommandent en général de commencer avec cinquante à cent exemples de haute qualité, de mesurer, puis d'ajouter. La qualité et la représentativité des exemples comptent plus que leur volume.

Le fine-tuning permet-il d'apprendre des faits au modèle ?

Mal. Le modèle retient des tournures et des comportements, beaucoup moins des connaissances précises, et il ne saura pas d'où elles viennent. Pour donner des informations au modèle (documentation, catalogue, actualité), la génération augmentée par récupération (RAG) est la bonne approche ; le fine-tuning peut ensuite affiner la façon de les présenter.

Faut-il fine-tuner ou simplement mieux prompter ?

Commencer par le prompt, toujours. Si le résultat reste instable malgré des instructions et des exemples soignés, si la tâche est répétitive à grand volume, ou si le coût d'un grand modèle devient prohibitif là où un petit modèle affiné suffirait, le fine-tuning se justifie. Il ajoute une charge de données, d'évaluation et de maintenance qu'un prompt n'a pas.

En résumé

• Fine-tuning : poursuivre l'entraînement d'un modèle pré-entraîné sur un petit jeu d'exemples pour le spécialiser.
• Méthodes : complet (tous les paramètres), efficace (LoRA, QLoRA : une fraction des paramètres), par API (OpenAI, Vertex AI, Mistral, Hugging Face).
• Quand : pour un comportement (ton, format, tâche répétitive, vocabulaire), pas pour des connaissances, qui relèvent du RAG ; après avoir épuisé le prompt.
• Usages SEO : classification de requêtes, extraction d'attributs, charte éditoriale, métadonnées, adaptation terminologique.
• Pièges : exemples bruités, surapprentissage, oubli des capacités générales, dépendance à une version du modèle, confidentialité des données.

Abondance c'est aussi des audits SEO, un service de contenus et des formations en e-learning !