L'erreur la plus couteuse en IA locale n'est pas un entrainement rate — c'est un entrainement reussi qui resout le mauvais probleme. Avant que ton dragon n'avale un seul exemple, il te faut un objectif d'entrainement precis et la preuve que le fine-tuning est vraiment le bon outil. Cette lecon te donne un cadre de decision utilise par les equipes qui livrent des modeles fine-tunes pour de vrai.
Les trois outils, compares honnetement
Quand un modele ne fait pas ce que tu veux, tu as trois options par ordre d'escalade :
1. Le prompting (gratuit, instantane). Ecrire de meilleures instructions, ajouter des exemples dans le prompt (few-shot), definir le format de sortie. Ca corrige plus de problemes que la plupart des gens ne le croient.
2. Le RAG — Retrieval-Augmented Generation (pas cher, rapide a construire). Stocker tes documents dans un index de recherche ; recuperer les passages pertinents et les coller dans le prompt au moment de la question. C'est le bon outil chaque fois que le probleme est le modele ne connait pas mes faits.
3. Le fine-tuning (ce cours). Changer reellement les poids du modele avec des exemples d'entrainement. Le bon outil quand le probleme est le modele ne se comporte pas comme j'en ai besoin — mauvais ton, mauvais format, il ignore les instructions specifiques a ta tache, il ne parle pas le langage de ton domaine.
Concept
La regle en une ligne que toute l'industrie utilise : le fine-tuning enseigne le comportement, le RAG fournit la connaissance. Les faits changent — mets-les dans une base de donnees. Le comportement est stable — grave-le dans les poids. Beaucoup de systemes en production utilisent les deux : un modele fine-tune plus du RAG.Voici la decision sous forme de diagramme :
Bons et mauvais objectifs de fine-tuning
Objectifs ou le fine-tuning excelle :
- "Repondre aux questions de support avec la voix de notre marque, en terminant toujours par une prochaine etape." — ton + format ✔
- "Transformer des notes de reunion en vrac en notre template exact de rapport d'avancement." — transformation structuree ✔
- "Classer les emails entrants dans nos 12 categories internes." — discipline de tache ✔
- "Ecrire des descriptions de produits qui sonnent comme notre catalogue, en roumain." — style + langue ✔
- "Toujours produire du JSON valide correspondant a notre schema." — fiabilite de format ✔
Objectifs qui finiront en larmes :
- "Apprendre au modele notre liste de prix 2026." ✘ — les faits changent ; utilise le RAG. Le modele hallucinera des prix avec une confiance totale.
- "Rendre un modele 4B aussi intelligent que Claude." ✘ — le fine-tuning n'ajoute pas de capacite de raisonnement ; il faconne ce qui est deja la.
- "L'entrainer sur tous nos documents pour qu'il sache tout." ✘ — deverser des documents bruts dans le fine-tuning apprend au modele a imiter tes documents, pas a repondre a des questions dessus.
Note honnete
Si quelqu'un te dit avoir fine-tune un modele "pour qu'il connaisse les donnees de son entreprise", soit il a en fait construit du RAG, soit son modele invente avec assurance des donnees d'entreprise. Le fine-tuning sur des documents bruts est l'erreur de debutant la plus courante en IA locale — et maintenant, c'est une erreur que tu ne feras jamais.Notre projet de cours : definir le travail d'Ember
Pour le reste de ce cours, l'objectif d'entrainement d'Ember est l'un des cas d'usage les plus solides pour un modele local :
Ember est un assistant de support client pour une petite boutique en ligne. Il repond avec la voix chaleureuse-mais-precise de la boutique, dans la langue du client, structure toujours ses reponses en : reponse courte → explication → prochaine etape concrete, et refuse d'inventer des details de commande qu'il n'a pas.
Remarque de quoi cet objectif est fait : voix (comportement), structure (format), discipline (refuser d'halluciner). Tout ca merite d'aller dans les poids. Les faits sur des commandes specifiques viendraient d'une base de donnees au runtime — pas de l'entrainement.
Ecris une fiche d'objectif avant d'entrainer quoi que ce soit
Astuce Pro
Les professionnels ecrivent l'evaluation avant l'entrainement. Si tu ne peux pas decrire comment tu vas mesurer le succes, tu n'as pas encore d'objectif d'entrainement — tu as un souhait.Ta fiche d'objectif tient en quatre lignes. Voici celle d'Ember :
- Tache : repondre aux questions de support client pour une boutique en ligne
- Comportement : voix chaleureuse-precise ; structure : reponse → explication → prochaine etape ; ne jamais inventer de donnees de commande
- Test de succes : sur 30 questions de test mises de cote, ≥25 suivent la structure et 0 inventent des faits
- Non-objectifs : la connaissance produit (le travail du RAG plus tard), les langues au-dela de EN/RO