Der teuerste Fehler bei lokaler KI ist nicht ein gescheiterter Trainingslauf — es ist ein erfolgreicher Trainingslauf, der das falsche Problem loest. Bevor dein Drache ein einziges Beispiel frisst, brauchst du ein praezises Trainingsziel und den Beweis, dass Fine-Tuning ueberhaupt das richtige Werkzeug ist. Diese Lektion gibt dir ein Entscheidungs-Framework, das Teams nutzen, die fine-getunte Modelle wirklich ausliefern.
Die drei Werkzeuge, ehrlich verglichen
Wenn ein Modell nicht tut, was du willst, hast du drei eskalierende Optionen:
1. Prompting (kostenlos, sofort). Schreib bessere Anweisungen, fuege Beispiele in den Prompt ein (Few-Shot), definiere das Ausgabeformat. Das loest mehr Probleme, als die meisten Leute glauben.
2. RAG — Retrieval-Augmented Generation (guenstig, schnell gebaut). Speichere deine Dokumente in einem Suchindex; hole relevante Abschnitte und fuege sie zur Fragezeit in den Prompt ein. Das ist das richtige Werkzeug, wann immer das Problem lautet: das Modell kennt meine Fakten nicht.
3. Fine-Tuning (dieser Kurs). Die Gewichte des Modells mit Trainingsbeispielen tatsaechlich veraendern. Das richtige Werkzeug, wenn das Problem lautet: das Modell verhaelt sich nicht so, wie ich es brauche — falscher Ton, falsches Format, ignoriert aufgabenspezifische Anweisungen, spricht nicht die Sprache deiner Domaene.
Konzept
Die Einzeiler-Regel, die die ganze Branche nutzt: Fine-Tuning lehrt Verhalten, RAG liefert Wissen. Fakten aendern sich — pack sie in eine Datenbank. Verhalten ist stabil — back es in die Gewichte. Viele Produktionssysteme nutzen beides: ein fine-getuntes Modell plus RAG.Hier die Entscheidung als Flowchart:
Gute und schlechte Fine-Tuning-Ziele
Ziele, in denen Fine-Tuning grossartig ist:
- "Support-Fragen in unserer Markenstimme beantworten, immer mit einem naechsten Schritt am Ende." — Ton + Format ✔
- "Chaotische Meeting-Notizen in unser exaktes Statusbericht-Template verwandeln." — strukturierte Transformation ✔
- "Eingehende E-Mails in unsere 12 internen Kategorien klassifizieren." — Aufgabendisziplin ✔
- "Produktbeschreibungen schreiben, die wie unser Katalog klingen, auf Rumaenisch." — Stil + Sprache ✔
- "Immer valides JSON ausgeben, das unserem Schema entspricht." — Format-Zuverlaessigkeit ✔
Ziele, die in Traenen enden werden:
- "Dem Modell unsere Preisliste 2026 beibringen." ✘ — Fakten aendern sich; nutze RAG. Das Modell wird Preise mit voller Ueberzeugung halluzinieren.
- "Ein 4B-Modell so schlau machen wie Claude." ✘ — Fine-Tuning fuegt keine Reasoning-Kapazitaet hinzu; es formt, was schon da ist.
- "Es auf all unseren Dokumenten trainieren, damit es alles weiss." ✘ — rohe Dokumente ins Fine-Tuning zu kippen bringt dem Modell bei, deine Dokumente zu imitieren, nicht Fragen darueber zu beantworten.
Ehrlicher Hinweis
Wenn dir jemand erzaehlt, er habe ein Modell fine-getunt, "damit es seine Firmendaten kennt", dann hat er entweder in Wirklichkeit RAG gebaut, oder sein Modell erfindet selbstbewusst Firmendaten. Fine-Tuning auf rohen Dokumenten ist der haeufigste Anfaengerfehler in der lokalen KI — und ab jetzt einer, den du nie machen wirst.Unser Kursprojekt: Embers Job definieren
Fuer den Rest dieses Kurses ist Embers Trainingsziel einer der staerksten Anwendungsfaelle fuer ein lokales Modell:
Ember ist ein Kundensupport-Assistent fuer einen kleinen Online-Shop. Er antwortet in der freundlich-aber-praezisen Stimme des Shops, in der Sprache des Kunden, strukturiert Antworten immer als: kurze Antwort → Erklaerung → konkreter naechster Schritt, und weigert sich, Bestelldetails zu erfinden, die er nicht hat.
Achte darauf, woraus dieses Ziel besteht: Stimme (Verhalten), Struktur (Format), Disziplin (Halluzinationen verweigern). Alles gewichte-wuerdig. Die Fakten zu konkreten Bestellungen kaemen zur Laufzeit aus einer Datenbank — nicht aus dem Training.
Schreib eine Ziel-Karte, bevor du irgendetwas trainierst
Profi-Tipp
Profis schreiben die Evaluation vor dem Training. Wenn du nicht beschreiben kannst, wie du Erfolg messen wirst, hast du noch kein Trainingsziel — du hast einen Wunsch.Deine Ziel-Karte hat vier Zeilen. Hier ist Embers:
- Aufgabe: Kundensupport-Fragen fuer einen Online-Shop beantworten
- Verhalten: freundlich-praezise Stimme; Struktur: Antwort → Erklaerung → naechster Schritt; niemals Bestelldaten erfinden
- Erfolgstest: von 30 zurueckgehaltenen Testfragen folgen ≥25 der Struktur und 0 erfinden Fakten
- Nicht-Ziele: Produktwissen (spaeter RAGs Job), Sprachen jenseits von EN/RO