Chaque modele d'IA que tu as utilise — ChatGPT, Claude, Gemini — est le dragon de quelqu'un d'autre. Puissant, impressionnant, et totalement sous le controle de quelqu'un d'autre. Ce cours t'apprend a elever le tien : un modele de langage qui tourne sur ton materiel, apprend de tes donnees et repond avec ta voix. Pas de facture d'API, pas de rate limits, aucune donnee qui quitte ta machine.
Le titre est un clin d'oeil a un certain film sur un garcon et son dragon, parce que la metaphore colle vraiment. Un modele de langage de base est une creature sauvage : enormement capable, mais pas encore a toi. L'entrainer — lui donner les bonnes donnees, corriger son comportement, tester son vol — c'est ce qui en fait un compagnon plutot qu'une curiosite.
Ce que "entrainer ton propre modele" veut vraiment dire en 2026
Soyons precis, parce que les mots sont souvent galvaudes. Tu ne vas pas entrainer un modele from scratch. Entrainer un modele de classe GPT depuis zero coute des dizaines de millions de dollars et un datacenter. Ce que tu vas faire, c'est du fine-tuning : prendre un puissant modele open-weights (Qwen, Llama, Gemma, Mistral) qui parle deja couramment, et lui apprendre ta tache, ton ton et ton domaine specifiques.
Concept
Modele de base = un dragon eleve par quelqu'un d'autre (Meta, Alibaba, Google, Mistral) et relache dans la nature avec des poids ouverts. Fine-tuning = adopter ce dragon et l'entrainer pour ton travail : repondre a tes clients, ecrire dans ton style, connaitre ton domaine.Ce n'est pas un workflow jouet. En 2026, les entreprises font du fine-tuning sur de petits modeles ouverts parce qu'un modele 4B bien entraine qui connait ton produit bat un modele geant generique sur cette tache precise — tout en tournant localement, gratuitement, avec une confidentialite totale des donnees.
Ce que tu vas construire dans ce cours
En 8 lecons, tu vas entrainer Ember — ton propre modele fine-tune. Concretement, tu vas :
- Choisir un objectif d'entrainement realiste et definir a quoi ressemble le "succes"
- Comprendre exactement ce que ton materiel peut et ne peut pas entrainer (on couvre deux configurations reelles : un Mac Studio M3 Ultra avec 96 Go de memoire unifiee et un PC avec un Intel i9 et une RTX 4090 avec 24 Go de VRAM)
- Construire un dataset d'instructions propre au format JSONL
- Lancer un vrai fine-tune LoRA avec MLX (Mac) ou Unsloth (PC)
- Evaluer les resultats comme un ingenieur, pas comme un fan
- Monter en niveau avec QLoRA, le preference tuning et la quantization
- Exporter ton modele en GGUF et le servir avec Ollama ou LM Studio, ou le partager sur Hugging Face
Note honnete
Le fine-tuning ne donnera pas a ton modele de nouveaux superpouvoirs de raisonnement, et il ne lui apprendra pas des faits de maniere fiable. Il change le comportement : le ton, le format, la discipline de tache, le vocabulaire du domaine. Si tu as besoin de faits a jour, c'est le travail du RAG — et la lecon 2 t'apprend a faire la difference avant de gaspiller une semaine d'entrainements.Pourquoi l'entrainement local est soudain devenu realiste
Trois choses ont converge pour rendre ce cours possible sur un bureau, pas dans un datacenter :
1. Les petits modeles ouverts sont devenus etonnamment bons. Un modele 4B–8B de 2026 surpasse les modeles 70B d'il y a deux ans sur la plupart des taches pratiques. Assez petit pour etre entraine a la maison, assez bon pour compter.
2. Le fine-tuning efficace en parametres (LoRA/QLoRA). Au lieu de mettre a jour tous les milliards de poids, tu entraines de minuscules matrices "adaptateurs" — souvent moins de 1% du modele. Cela divise les besoins en memoire par un ordre de grandeur. Ton dragon apprend de nouveaux tours sans faire repousser tout son cerveau.
3. Le materiel grand public a rattrape son retard. La memoire unifiee d'Apple permet a un Mac Studio de garder d'enormes modeles en RAM que le GPU peut utiliser directement. La RTX 4090 de NVIDIA apporte une puissance d'entrainement serieuse pour une fraction du prix d'un datacenter. Les deux configurations de ce cours sont de vraies machines que les gens possedent, pas des hypotheses.
Les deux machines qu'on utilisera tout au long du cours
Chaque lecon pratique te donne deux chemins — suis celui qui correspond a ton materiel :
- Chemin A — Mac Studio, M3 Ultra, 96 Go de memoire unifiee. L'entrainement tourne sur MLX, le framework ML d'Apple. Une memoire enorme signifie que d'enormes modeles rentrent ; la vitesse brute d'entrainement est plus modeste.
- Chemin B — PC, Intel i9 + RTX 4090 (24 Go de VRAM). L'entrainement tourne sur CUDA avec Unsloth et les bibliotheques Hugging Face. Moins de memoire, mais une vitesse de calcul brutale — la 4090 entraine les petits modeles plus vite que le Mac.
Tu n'as pas besoin de ces machines exactes. N'importe quel Mac Apple Silicon avec 32 Go+ ou n'importe quel GPU NVIDIA avec 12 Go+ peut suivre avec des modeles plus petits. La lecon 3 te donne le calcul de memoire exact pour savoir ce qui rentre sur ta machine.
Prerequisites
- Etre a l'aise avec un terminal — tu sais en ouvrir un, faire des
cdet lancer des commandes. Pas besoin de diplome en programmation. - Python installe (3.10+) — on utilisera
pippour installer tout le reste. - De l'espace disque — 50 Go libres. Les modeles sont costauds.
- De la patience pour iterer — ton premier modele entraine sera mediocre. C'est normal, et la lecon 6 est entierement dediee a le rendre bon.
Essaie
Avant la prochaine lecon, installe un runner de modeles local et ressens ce que c'est qu'"un modele sur ta machine". Telecharge LM Studio (lmstudio.ai) ou Ollama (ollama.com), recupere un petit modele commeqwen3:4b et discute avec lui. Remarque ce qu'il fait bien — et la ou il semble generique. Cette sensation de generique, c'est exactement ce que l'entrainement fait disparaitre.