Fine-Tuning: ein Modell auf deinen Stil trainieren
Definition
Fine-Tuning bedeutet, ein bereits trainiertes Sprachmodell mit eigenen Beispielen weiterzutrainieren, damit es einem gewünschten Stil, Format oder Verhalten folgt. Man verändert also das Modell selbst, nicht nur den Prompt. Das Ergebnis ist ein angepasstes Modell, das bestimmte Aufgaben zuverlässiger im richtigen Ton erledigt, aber kein neues Faktenwissen zur Laufzeit nachschlägt.
Warum der Begriff zählt
Viele erwarten von Fine-Tuning, dass ein Modell danach ihr Firmenwissen kennt. Das ist ein Missverständnis. Fine-Tuning prägt Muster ein, etwa einen festen Antwortstil oder ein striktes Ausgabeformat, aber es hält kein aktuelles Wissen bereit. Wer das trennt, spart Geld: Für Wissen nimmt man RAG, für Verhalten und Ton lohnt sich Fine-Tuning nur, wenn Prompt und Kontext an ihre Grenze stoßen.
Wann es relevant ist
- Ein Assistent soll durchgängig einen sehr bestimmten Ton oder ein festes Format liefern.
- Viele gleichartige Beispiele guter Antworten liegen bereits vor.
- Der Prompt wird durch Anweisungen so lang, dass er teuer und unübersichtlich wird.
- Eine eng umrissene Aufgabe wiederholt sich in hoher Zahl.
Wann nicht
Wenn es eigentlich um aktuelles oder wechselndes Wissen geht, ist Fine-Tuning das falsche Werkzeug, weil das trainierte Modell schnell veraltet und jede Änderung ein neues Training bräuchte. Auch ohne saubere, geprüfte Beispieldaten ist der Aufwand meist höher als der Nutzen.
Branchen, die das nutzen
- Callcenter und Kundenservice: ein Modell, das gelernt hat, streng nach Gesprächsleitfaden und Tonalität zu antworten.
- E-Commerce: ein Assistent, der Produkttexte in einem festen Marken-Stil erzeugt.
- Medien: ein Modell, das Meldungen zuverlässig im hauseigenen Redaktionsformat ausgibt.
- Recht: ein Assistent, der Klauseln in einer streng vorgegebenen Struktur formuliert.
Typische Anwendungsfälle
- Ein durchgängiger Marken-Ton über alle Assistenz-Antworten hinweg.
- Ein festes Ausgabeformat, etwa immer sauberes JSON für nachgelagerte Schritte.
- Eine Klassifizierungsaufgabe, die tausendfach gleich laufen soll.
- Ein Modell, das eine seltene Fachsprache sicherer trifft.
- Ein kompakteres, günstigeres Modell, das eine Spezialaufgabe gut genug löst.
Entscheidungshilfe
| Signal | Fine-Tuning passt | Alternative |
|---|---|---|
| Fester Ton oder Format nötig | mit Beispielen trainieren | erst Prompt schärfen |
| Aktuelles Wissen gefragt | eher nicht | RAG statt Training |
| Viele saubere Beispiele da | Training lohnt sich | zu wenig Daten, warten |
| Aufgabe ändert sich oft | eher nicht | Prompt und Kontext nutzen |
Beispiel
Ein Team stellt fest, dass sein Assistent zwar korrekt, aber uneinheitlich formuliert. Es sammelt einige hundert freigegebene Beispielantworten im gewünschten Stil und trainiert damit ein angepasstes Modell. Das Firmenwissen bleibt separat im Company Brain über RAG, weil es sich ständig ändert. So bekommt jede Antwort den richtigen Ton und trotzdem aktuelle Fakten. Das Beispiel beschreibt die Methode, keine Kennzahl.
Verbindung zu Services
Fine-Tuning ist ein Baustein bei der Custom-GPT-Entwicklung und beim Aufbau eines KI-Assistenten. Für Wissen kombinieren wir es mit dem Company Brain.
Quellen
Diese Einordnung beschreibt gängige Praxis rund um Fine-Tuning. Ob sich ein Training lohnt, hängt von Datenmenge, Aufgabe, Kosten und dem gewählten Modell ab und muss im Einzelfall geprüft werden.
