RAG einfach erklärt: wie ein Assistent mit deinen Daten antwortet
Kurzantwort
RAG heißt, dass ein Assistent nicht aus dem Gedächtnis antwortet, sondern zuerst die passenden Stellen in deinen Dokumenten sucht und die Antwort dann aus genau diesen Stellen baut, samt Quelle. Deshalb kann er auf euer hausinternes Wissen eingehen und seine Antwort belegen, statt zu raten.
RAG steht für Retrieval-Augmented Generation, und der sperrige Name verdeckt eine einfache Idee. Ein normales Sprachmodell antwortet aus dem, was es beim Training gesehen hat, und euer Haus war da nicht dabei. RAG schiebt vor die Antwort einen Suchschritt: Der Assistent durchsucht eure Wissensbasis nach den Passagen, die zur Frage passen, und formuliert die Antwort dann aus diesen Passagen. Zwei Schritte, Retrieval und Generation, wobei der erste über alles entscheidet. Der praktische Gewinn ist nicht Magie, sondern Nachprüfbarkeit: Eine Antwort mit Quelle lässt sich kontrollieren, eine ohne muss man glauben.
Was RAG in Alltagssprache heißt
Ein Sprachmodell ohne Zusatz ist wie eine sehr belesene Person, die aber euer Haus nicht kennt. Sie hat unfassbar viel gelesen, nur eben nicht eure Reiserichtlinie, nicht eure Verträge und nicht das Ticket von letzter Woche. Fragt ihr sie nach etwas Hausinternem, antwortet sie flüssig und trotzdem auf gut Glück, weil sie die Antwort aus allgemeinem Wissen zusammensetzt.
RAG ändert genau diesen einen Punkt. Statt sofort aus dem Gedächtnis zu reden, schlägt der Assistent erst nach. Er durchsucht eure freigegebene Wissensbasis nach den Stellen, die zur Frage passen, und schreibt seine Antwort dann aus diesen Stellen. Der Name Retrieval-Augmented Generation beschreibt das wörtlich: eine Antwort, die durch vorheriges Heraussuchen der richtigen Passagen angereichert wurde.
Das klingt technisch, ist aber ein alltägliches Muster. Ein guter Kollege, dem du eine heikle Frage stellst, sagt selten sofort etwas. Er hört zu, schlägt im richtigen Ordner nach und antwortet dann mit dem Satz „hier steht es". Genau dieses Verhalten baut RAG in einen Assistenten ein.
Wie aus einer Frage eine belegte Antwort wird
Es hilft, RAG in zwei Schritten zu denken. Retrieval holt die richtigen Passagen heran, Generation baut daraus die Antwort. Der zweite Schritt ist der leichte, aktuelle Modelle formulieren zuverlässig. Der erste Schritt entscheidet über alles: Findet die Suche die falschen oder veralteten Stellen, klingt die Antwort trotzdem sicher, ist aber falsch. Findet sie die richtigen, kann der Assistent seine Antwort belegen.
RAG macht aus einem Modell, das rät, einen Assistenten, der nachschlägt und die Fundstelle gleich mitgibt.
Damit die Suche überhaupt funktioniert, werden eure Dokumente vorher in überschaubare Abschnitte geschnitten und als Zahlenmuster abgelegt, sogenannte Embeddings. Vereinfacht gesagt bekommt jede Textstelle eine Art Bedeutungs-Koordinate, und ähnliche Bedeutungen liegen nah beieinander. Kommt eine Frage, wird sie in dasselbe Koordinatensystem übersetzt, und der Assistent greift die inhaltlich nächsten Stellen. Du musst diese Mechanik nicht selbst bedienen, aber es erklärt, warum RAG nach Bedeutung findet und nicht nur nach exakten Stichworten.
| Schritt | Was der Assistent tut | Alltagsbild |
|---|---|---|
| Frage verstehen | zerlegt die Frage in das, wonach er suchen muss | der Kollege hört erst zu |
| Passende Stellen finden (Retrieval) | durchsucht die Wissensbasis nach den relevanten Passagen | er schlägt im richtigen Ordner nach |
| Antwort bauen (Generation) | formuliert die Antwort aus genau diesen Passagen | er fasst das Gefundene in eigenen Worten zusammen |
| Quelle zeigen | nennt, woher die Antwort stammt | er legt die Fundstelle offen daneben |
Nicht jede Frage braucht diesen Umweg. Für allgemeine Sprache reicht das Modell allein, für euer Hauswissen braucht es die Suche in euren Daten. Die folgende Tabelle macht den Unterschied greifbar.
| Frage im Alltag | RAG nötig | Ohne RAG genug |
|---|---|---|
| Was steht in unserer aktuellen Reiserichtlinie? | ja, hausinternes Wissen | nein |
| Formuliere mir eine höfliche Absage | nein, allgemeine Sprache | ja |
| Was haben wir Kunde X konkret zugesagt? | ja, eigene Dokumente | nein |
| Erklär mir den Unterschied zwischen brutto und netto | nein, Allgemeinwissen | ja |
Warum die Quelle der ganze Gewinn ist
Der größte Unterschied zwischen einem freien Modell und einem RAG-Assistenten ist nicht die Formulierung, sondern die Herkunft der Antwort. Ein RAG-Assistent kann sagen, worauf er sich stützt, und dir die Stelle zeigen. Damit wird aus einer Behauptung eine überprüfbare Auskunft.
Das verändert, wie sehr du einer Antwort trauen kannst. Bei einer Auskunft ohne Quelle bleibt dir nur Glauben oder Nachrecherchieren. Bei einer Auskunft mit Quelle klickst du einmal und siehst selbst, ob die Grundlage stimmt und aktuell ist. Bei allem, an dem Entscheidungen hängen, ist dieser eine Klick der eigentliche Punkt von RAG.
Wichtig ist dabei eine ehrliche Grenze. RAG senkt das Risiko frei erfundener Antworten deutlich, weil der Assistent an echte Fundstellen gebunden ist. Es schafft das Risiko nicht ganz ab. Findet die Suche nichts Passendes und der Assistent redet trotzdem, bekommst du wieder eine Vermutung. Ein guter Aufbau erlaubt darum das ehrliche „dazu finde ich nichts", statt um jeden Preis zu antworten.
Was gute Retrieval-Qualität ausmacht
Ob ein RAG-Assistent im Alltag trägt, entscheidet sich fast vollständig am Retrieval, also daran, wie gut der Suchschritt die richtigen Stellen findet. Die einzelnen Merkmale wiegen dabei unterschiedlich schwer.
So prüfst du, ob dein Assistent wirklich nachschlägt
Du musst nicht in die Technik schauen, um die Qualität zu beurteilen. Stell zehn echte Fragen aus dem Alltag und prüf die Antworten an diesen fünf Punkten. Wo einer wackelt, hast du den Ansatzpunkt gefunden.
- Nennt die Antwort eine Quelle, und kannst du sie tatsächlich öffnen?
- Ist die zitierte Stelle aktuell, oder zieht der Assistent eine alte Fassung heran?
- Passt die Fundstelle zur Frage, oder wirkt sie eher zufällig getroffen?
- Sagt der Assistent ehrlich Bescheid, wenn er nichts Passendes findet?
- Bleibt die Antwort nah an der Quelle, statt frei auszuschmücken?
Kernsatz: Ein RAG-Assistent ist nur so gut wie sein Suchschritt. Wer die Antwort beurteilen will, schaut nicht auf die schöne Formulierung, sondern auf die Quelle dahinter.
Häufige Irrtümer
- RAG ist ein besonderes KI-Modell.
- Nein, RAG ist ein Vorgehen um ein Modell herum. Das Modell bleibt austauschbar, der Zusatz ist der Suchschritt in euren Daten und die Bindung der Antwort an das Gefundene.
- Mit RAG kann der Assistent nichts mehr erfinden.
- RAG senkt das Risiko deutlich, hebt es aber nicht auf. Wenn die Suche nichts Passendes liefert und der Assistent trotzdem antwortet, entsteht wieder eine Vermutung. Der ehrliche Hinweis auf fehlende Grundlage gehört darum fest dazu.
Fragen und Antworten
- Was bedeutet das Wort Retrieval hier konkret?
- Es ist der Suchschritt vor der Antwort: das gezielte Heraussuchen der Textstellen aus euren Daten, die zur Frage passen. Gutes Retrieval findet die richtige, aktuelle Stelle, schlechtes findet irgendeine.
- Woran erkenne ich als Laie, dass RAG im Spiel ist?
- An der Quelle. Wenn eine Antwort auf hausinternes Wissen eine konkrete Fundstelle nennt, die du öffnen kannst, arbeitet ein Suchschritt im Hintergrund. Antwortet der Assistent nur allgemein und ohne Beleg, tut er es vermutlich nicht.
- Brauche ich für RAG eine Vektordatenbank?
- In der Praxis meistens ja, weil sie die Bedeutungs-Suche über eure Abschnitte schnell macht. Als Nutzer musst du sie nicht bedienen, aber sie ist der Speicher, der aus einer Frage die inhaltlich nächsten Stellen findet.
Sources and evidence
Es werden keine externen Statistiken oder Kundenergebnisse als belegt behauptet. Die Beispielfragen sind erfunden und dienen nur der Veranschaulichung.
