Erster Flug: Trainiere dein erstes LoRA

Trainiere dein Modell Kurs von TEN INVENT · Juli 2026

Heute fliegt Ember. Du waehlst ein Basismodell, haengst LoRA-Adapter an und fuehrst ein echtes Fine-Tuning auf deiner eigenen Maschine durch — der Mac-Pfad mit MLX, der PC-Pfad mit Unsloth. Am Ende dieser Lektion hast du Adapter-Gewichte auf der Festplatte und ein Modell, das bereits anders klingt als die Basis.

Was LoRA wirklich tut (60 Sekunden Theorie)

Alle Gewichte selbst eines 4B-Modells zu fine-tunen braucht ~70 GB. LoRAs Einsicht: Du musst die grossen Gewichtsmatrizen nicht veraendern — du kannst eine kleine Korrektur daneben addieren. Fuer jede Zielmatrix trainiert LoRA zwei duenne Matrizen (A und B), deren Produkt die Korrektur ist. Nur diese trainieren; die Basis bleibt eingefroren.

Das Basismodell waehlen

Fuer Ember wollen wir ein kleines, modernes, Instruction-getuntes Modell mit guten Mehrsprachigkeits-Faehigkeiten. 2026 ist der Sweet Spot fuer dieses Projekt Qwen3-4B-Instruct (stark mehrsprachig, permissive Lizenz) — mit Llama-3.2-3B-Instruct und Gemma-3-4B als soliden Alternativen. Aus der Mathematik von Lektion 3: QLoRA auf 4B braucht ~4–6 GB. Beide Maschinen schaffen das locker — mit Absicht, denn dein erster Lauf sollte niemals zusaetzlich ein Speicherkampf sein.

Starte immer von der -Instruct-Version, nicht von der rohen Basis — sie weiss bereits, wie man eine Konversation fuehrt; du justierst Verhalten, statt Dialog von null beizubringen.

Pfad A — Mac Studio (MLX)

Einmal installieren, dann trainieren:

pip install mlx-lm
mlx_lm.lora \
  --model Qwen/Qwen3-4B-Instruct \
  --train \
  --data ./data \
  --batch-size 4 \
  --iters 600 \
  --learning-rate 1e-5 \
  --adapter-path adapters/ember-v1

--data ./data zeigt auf den Ordner mit train.jsonl / valid.jsonl aus Lektion 4. MLX laedt das Modell beim ersten Lauf herunter, danach siehst du einen Schrittzaehler mit Train Loss und, periodisch, Val Loss. Auf dem M3 Ultra dauert dieser Lauf grob 20–40 Minuten.

Sprich mit deinem Drachen (Basis + Adapter, kein Mergen noetig):

mlx_lm.generate \
  --model Qwen/Qwen3-4B-Instruct \
  --adapter-path adapters/ember-v1 \
  --prompt "My order hasn't arrived and it's been 10 days."

Pfad B — PC mit RTX 4090 (Unsloth)

Installieren (ein CUDA-faehiges PyTorch muss vorhanden sein), dann ist das das gesamte Trainingsskript:

from unsloth import FastLanguageModel
from trl import SFTTrainer, SFTConfig
from datasets import load_dataset

model, tokenizer = FastLanguageModel.from_pretrained(
    "unsloth/Qwen3-4B-Instruct",
    max_seq_length=2048,
    load_in_4bit=True,          # QLoRA: 4-bit frozen base
)
model = FastLanguageModel.get_peft_model(model, r=16, lora_alpha=16)

dataset = load_dataset("json", data_files="data/train.jsonl", split="train")
dataset = dataset.map(lambda ex: {"text": tokenizer.apply_chat_template(
    ex["messages"], tokenize=False)})

trainer = SFTTrainer(
    model=model, tokenizer=tokenizer, train_dataset=dataset,
    args=SFTConfig(
        per_device_train_batch_size=4,
        gradient_accumulation_steps=2,
        num_train_epochs=3,
        learning_rate=2e-4,
        logging_steps=10,
        output_dir="adapters/ember-v1",
    ),
)
trainer.train()
model.save_pretrained("adapters/ember-v1")

Auf der 4090 ist das in grob 8–15 Minuten fertig. Unsloth gibt den Loss alle 10 Schritte aus — dieselben Zahlen, dieselbe Bedeutung.

Den Loss lesen (deine ersten Fluginstrumente)

Loss misst, "wie ueberrascht das Modell von der richtigen Antwort ist" — niedriger ist besser. Ein gesunder erster Flug:

• Der Train Loss faellt anfangs schnell (etwa 2,1 → 1,3 in den ersten 100 Schritten) und flacht dann sanft ab.
• Der Val Loss folgt ihm nach unten, etwas hoeher.
• Warnsignal: Der Val Loss beginnt zu steigen, waehrend der Train Loss weiter faellt. Das ist Overfitting — der Drache lernt das Futter auswendig, statt jagen zu lernen. Lektion 6 kuemmert sich richtig darum.