Cea mai scumpa greseala din AI-ul local nu este o antrenare esuata — este o antrenare reusita care rezolva problema gresita. Inainte ca dragonul tau sa manance un singur exemplu, ai nevoie de un obiectiv de antrenare precis si de dovada ca fine-tuning-ul este macar unealta potrivita. Aceasta lectie iti ofera un cadru de decizie folosit de echipele care livreaza modele fine-tuned pe bune.
Cele trei unelte, comparate sincer
Cand un model nu face ce vrei, ai trei optiuni in ordine crescatoare:
1. Prompting (gratuit, instant). Scrie instructiuni mai bune, adauga exemple in prompt (few-shot), defineste formatul de iesire. Asta rezolva mai multe probleme decat cred majoritatea oamenilor.
2. RAG — Retrieval-Augmented Generation (ieftin, rapid de construit). Stochezi documentele intr-un index de cautare; recuperezi fragmentele relevante si le lipesti in prompt in momentul intrebarii. Aceasta este unealta corecta ori de cate ori problema este modelul nu cunoaste faptele mele.
3. Fine-tuning (acest curs). Chiar schimbi ponderile modelului cu exemple de antrenare. Unealta corecta cand problema este modelul nu se comporta cum am nevoie — ton gresit, format gresit, ignora instructiuni specifice sarcinii tale, nu vorbeste limbajul domeniului tau.
Concept
Regula intr-o singura fraza pe care o foloseste toata industria: fine-tuning-ul invata comportament, RAG furnizeaza cunostinte. Faptele se schimba — pune-le intr-o baza de date. Comportamentul e stabil — coace-l in ponderi. Multe sisteme de productie le folosesc pe amandoua: un model fine-tuned plus RAG.Iata decizia sub forma de diagrama:
Obiective bune si rele pentru fine-tuning
Obiective la care fine-tuning-ul exceleaza:
- "Raspunde la intrebari de suport cu vocea brandului nostru, incheind mereu cu un pas urmator." — ton + format ✔
- "Transforma notite dezordonate de sedinta in sablonul nostru exact de raport de status." — transformare structurata ✔
- "Clasifica emailurile primite in cele 12 categorii interne ale noastre." — disciplina in sarcina ✔
- "Scrie descrieri de produse care suna ca in catalogul nostru, in romana." — stil + limba ✔
- "Genereaza mereu JSON valid conform schemei noastre." — fiabilitate de format ✔
Obiective care se vor termina cu lacrimi:
- "Invata modelul lista noastra de preturi din 2026." ✘ — faptele se schimba; foloseste RAG. Modelul va halucina preturi cu incredere totala.
- "Fa un model 4B la fel de destept ca Claude." ✘ — fine-tuning-ul nu adauga capacitate de rationament; modeleaza ce exista deja.
- "Antreneaza-l pe toate documentele noastre ca sa stie tot." ✘ — aruncatul documentelor brute in fine-tuning invata modelul sa imite documentele tale, nu sa raspunda la intrebari despre ele.
Nota sincera
Daca cineva iti spune ca a facut fine-tune pe un model "ca sa cunoasca datele companiei", fie a construit de fapt RAG, fie modelul lui inventeaza cu incredere date despre companie. Fine-tuning-ul pe documente brute este cea mai frecventa greseala de incepator din AI-ul local — iar de acum e una pe care tu nu o vei face niciodata.Proiectul cursului: definim treaba lui Ember
Pentru restul cursului, obiectivul de antrenare al lui Ember este unul dintre cele mai puternice cazuri de utilizare pentru un model local:
Ember este un asistent de suport pentru clienti al unui mic magazin online. Raspunde cu vocea prietenoasa-dar-precisa a magazinului, in limba clientului, structureaza mereu raspunsurile astfel: raspuns scurt → explicatie → pas urmator concret, si refuza sa inventeze detalii despre comenzi pe care nu le are.
Observa din ce este facut acest obiectiv: voce (comportament), structura (format), disciplina (refuzul de a halucina). Toate merita bagate in ponderi. Faptele despre comenzi specifice ar veni dintr-o baza de date la runtime — nu din antrenare.
Scrie un card de obiectiv inainte sa antrenezi orice
Pro Tip
Profesionistii scriu evaluarea inainte de antrenare. Daca nu poti descrie cum vei masura succesul, nu ai inca un obiectiv de antrenare — ai o dorinta.Cardul tau de obiectiv are patru linii. Iata-l pe al lui Ember:
- Sarcina: raspunde la intrebari de suport pentru un magazin online
- Comportament: voce prietenoasa-precisa; structura: raspuns → explicatie → pas urmator; nu inventa niciodata date despre comenzi
- Test de succes: pe 30 de intrebari de test tinute deoparte, ≥25 urmeaza structura si 0 inventeaza fapte
- Non-obiective: cunostinte despre produse (treaba RAG mai tarziu), alte limbi in afara de EN/RO