Fine-tuning : définition et quand s'en passer

Un modèle comme ceux qui font tourner les assistants courants sait déjà rédiger, résumer et classer. Le fine-tuning ne lui apprend pas à écrire : il le spécialise sur une tâche. C’est une technique réelle, souvent proposée trop tôt, alors qu’une consigne précise ou un accès à vos documents règlent la plupart des besoins d’une petite ou moyenne entreprise (PME).

Que désigne exactement le fine-tuning ?

Le fine-tuning désigne la poursuite de l’entraînement d’un modèle d’intelligence artificielle (IA) déjà entraîné, sur un jeu d’exemples beaucoup plus petit et ciblé. Le terme anglais signifie littéralement « réglage fin » ; en français, on parle aussi d’affinage.

Le modèle de départ est un modèle généraliste, qui a appris sur de très grands volumes de données. L’affinage ne repart pas de zéro : il ajuste ce que le modèle sait déjà faire pour qu’il réponde d’une manière précise à un type de demande précis. Le résultat est une variante du modèle d’origine, qu’on appelle un modèle affiné.

La technique concerne surtout les grands modèles de langage (LLM), mais elle s’applique aussi aux modèles qui traitent des images ou de la voix.

Comment se déroule un fine-tuning ?

Un fine-tuning se déroule en quatre temps : réunir des exemples, entraîner le modèle, évaluer le résultat, puis déployer et entretenir le modèle obtenu.

Les exemples sont des paires : une entrée et la sortie attendue. Une demande de client et la réponse validée par le service commercial. Un bon de livraison et la fiche correctement remplie. Un message entrant et la catégorie qui lui correspond.

Pendant l’entraînement, le modèle traite ces exemples, et ses paramètres, les nombres qui le constituent, sont légèrement corrigés pour rendre la sortie attendue plus probable. Des méthodes plus légères n’entraînent qu’un petit nombre de paramètres ajoutés au modèle, ce qui réduit le matériel nécessaire.

L’évaluation se fait sur des exemples mis de côté, que le modèle n’a jamais vus. Sans cette étape, personne ne peut dire si le modèle affiné fait mieux que le modèle d’origine accompagné d’une bonne consigne.

Une analogie aide à situer la différence. Une consigne, c’est la fiche remise à un intérimaire à chaque mission. Le fine-tuning, c’est la formation d’un salarié sur des cas réels : il a moins besoin de la fiche, mais il faut le reformer quand le métier change.

Dans quels cas le fine-tuning est-il utile ?

Le fine-tuning est utile quand une tâche est étroite, répétitive, stable dans le temps et traitée en grand volume, et qu’une consigne ne suffit plus à obtenir un résultat constant.

• Un format strict. Remplir toujours la même fiche structurée à partir de documents variés, sans oublier un champ ni changer l’ordre.
• Un style maison. Des réponses du service client qui reprennent le ton et les formules de l’entreprise, sur un grand volume de messages.
• Une tâche très spécialisée. Classer des demandes selon des catégories internes que le modèle ne peut pas deviner, ou manier un vocabulaire technique propre à un métier.
• Un modèle plus léger. Faire réussir à un petit modèle, plus rapide et plus économique à faire tourner, une tâche précise qu’il ratait avec une simple consigne.

Dans ces situations, ce qu’on cherche est la constance du résultat. Un bénéfice secondaire est une consigne plus courte à chaque demande, puisque le comportement attendu est déjà dans le modèle.

Consigne, RAG ou fine-tuning : que choisir ?

Consigne, RAG (génération augmentée par récupération) et fine-tuning répondent à trois besoins différents : cadrer une demande, apporter des connaissances, fixer un comportement.

Une consigne bien construite peut contenir quelques exemples de la sortie attendue, ce qui couvre déjà une bonne part de ce qu’on espère d’un affinage. Le RAG retrouve les passages utiles dans vos documents, souvent grâce à des embeddings (plongements vectoriels), et les donne au modèle au moment de la question.

Les trois approches se combinent : un modèle affiné peut très bien recevoir une consigne et des documents. Les notions voisines sont définies dans le glossaire de l’IA en entreprise.

Pourquoi une PME s’en passe souvent

Une PME se passe souvent du fine-tuning parce que ses besoins relèvent de la consigne ou de l’accès aux documents, pas d’un changement de comportement du modèle.

Il apprend mal les faits

Le fine-tuning n’est pas le bon outil pour faire connaître vos procédures ou votre catalogue à une IA. Le modèle retient une manière de faire mieux que des informations précises, il ne cite pas de source, et chaque changement impose un nouvel entraînement.

Les modèles généralistes évoluent vite

Un affinage est attaché à une version précise d’un modèle. Quand une version plus capable sort, le modèle généraliste bien guidé rattrape parfois le modèle affiné qu’on a mis du temps à préparer.

Les exemples coûtent souvent plus que le calcul

Le poste le plus lourd est souvent la préparation des exemples : les rassembler, les corriger, retirer les données personnelles ou confidentielles, les faire valider par quelqu’un du métier. S’y ajoutent le calcul pour l’entraînement, l’hébergement du modèle affiné et une nouvelle évaluation à chaque version.

Un modèle affiné peut aussi, dans certains cas, restituer des fragments de ses exemples d’entraînement. Tout ce qu’on y met doit donc pouvoir en ressortir sans dommage.

Il faut savoir évaluer

Un fine-tuning demande quelqu’un capable de constituer un jeu de test, de lire les résultats et de trancher. Sans cette compétence, en interne ou chez un prestataire, on ne sait pas ce qu’on a réellement obtenu.

Par où commencer si vous y pensez

Avant tout projet d’affinage, la bonne question n’est pas « faut-il affiner un modèle ? », mais « qu’est-ce qu’une consigne et nos documents ne permettent pas encore d’obtenir ? ».

1. Écrire une consigne précise, avec des exemples de la sortie attendue.
2. Donner accès aux documents si la réponse dépend de vos informations.
3. Mesurer le résultat sur une série de cas réels, préparée à l’avance.
4. Envisager le fine-tuning seulement si un écart précis subsiste, sur une tâche stable et fréquente.

Le besoin se règle souvent dès la première ou la deuxième étape. Et quand il ne se règle pas, le travail de mesure déjà fait sert directement à préparer l’affinage.

À retenir

• Le fine-tuning réentraîne un modèle existant sur des exemples pour lui donner un comportement constant sur une tâche précise.
• Il est utile pour un format strict, un style maison ou une tâche spécialisée, stable et traitée en grand volume.
• Il apprend mal les faits : pour répondre à partir de vos documents, le RAG est en général plus adapté.
• Une consigne bien écrite, avec des exemples, couvre une grande partie des besoins d’une PME sans toucher au modèle.
• Le coût principal tient souvent à la préparation des exemples, puis à la maintenance à chaque nouvelle version du modèle.
• Un fine-tuning se décide après avoir mesuré ce qu’une consigne et le RAG ne permettent pas d’obtenir.