Fine-tuning

Le fine-tuning consiste à ré-entraîner partiellement un modèle d'IA existant sur vos propres données pour spécialiser son comportement : adopter un style précis, maîtriser un vocabulaire métier, ou exceller sur une tâche répétitive bien définie.

La différence avec le RAG est structurelle et souvent mal comprise. Le RAG donne au modèle un accès à vos documents au moment de la question — les connaissances restent à l'extérieur et peuvent évoluer chaque jour. Le fine-tuning modifie le modèle lui-même — il apprend un savoir-faire, pas des connaissances fraîches. Un modèle fine-tuné sur vos contrats de 2024 ignorera ceux de 2026 ; un RAG les verra dès leur ajout.

Comment ça marche

On constitue un jeu de données d'exemples — des paires question-réponse ou des documents annotés, généralement plusieurs centaines au minimum —, on entraîne le modèle sur ce corpus, puis on évalue le résultat sur des cas qu'il n'a jamais vus. La qualité du jeu de données fait tout : un fine-tuning sur des exemples médiocres produit un modèle médiocre, avec une grande confiance.

À quoi ça sert concrètement

• Imposer un ton et un format de sortie constants (rédaction normée, classification stricte)
• Spécialiser un petit modèle économique sur une tâche unique au lieu de payer un grand modèle généraliste
• Traiter un vocabulaire très spécifique (médical, juridique, industriel) mal couvert par les modèles standards

Les pièges

C'est l'option la plus chère et la plus rigide de la boîte à outils IA : constitution du jeu de données, entraînement, évaluation, puis ré-entraînement à chaque évolution du besoin — un projet sérieux se chiffre en dizaines de milliers d'euros. Dans la majorité des cas d'usage en PME, un bon prompt engineering ou un RAG atteint le même résultat pour une fraction du coût. Le fine-tuning se justifie en dernier recours, quand les deux premiers plafonnent.

Quand le choisir, quand l'éviter

À choisir : tâche unique, répétitive, à fort volume, où le style ou la précision du format comptent plus que la fraîcheur des connaissances. À éviter : besoin de connaissances à jour, budget serré, ou cas d'usage encore flou — commencez par le RAG.