RAG: belegbare Antworten aus deinem eigenen Wissen
Definition
RAG ist ein Verfahren, bei dem ein Sprachmodell vor jeder Antwort passende Textstellen aus einer eigenen Wissensquelle sucht und sie in die Antwort einbaut. Statt nur aus dem Training zu schöpfen, liest das Modell aktuelle, freigegebene Dokumente mit. So entstehen Antworten mit Herkunft, und dein Assistent greift auf Firmenwissen zu, das kein allgemeines Modell kennt.
Warum der Begriff zählt
Ein Sprachmodell allein weiß nur, was zum Trainingszeitpunkt in seinen Daten stand. Für dein Unternehmen ist das zu wenig, weil Verträge, Handbücher und Tickets weder öffentlich noch aktuell sind. RAG schließt diese Lücke: Der Assistent holt sich die richtige Stelle aus deinem Wissen und antwortet mit Beleg. Genau das macht aus einem netten Chatfenster ein verlässliches Company Brain.
Wann es relevant ist
- Antworten müssen sich auf konkrete, freigegebene Dokumente stützen.
- Das Wissen ändert sich oft, ein neu trainiertes Modell wäre schnell veraltet.
- Nutzer wollen die Quelle sehen und nachprüfen können.
- Rechte entscheiden, wer welche Inhalte als Antwort bekommen darf.
Wann nicht
Wenn eine Frage reines Allgemeinwissen betrifft oder gar keine eigene Quelle existiert, bringt RAG keinen Mehrwert und erzeugt nur zusätzlichen Aufwand. Auch bei sehr kleinen, stabilen Textmengen reicht es oft, die Inhalte direkt in den Prompt zu legen, statt eine Suchschicht aufzubauen.
Branchen, die das nutzen
- Steuerberatung: ein Assistent, der aus Mandantenakten und Gesetzestexten mit genauem Fundstellenbezug antwortet.
- Maschinenbau: ein Company Brain über Wartungsanleitungen und Prüfprotokolle, das dem Service die richtige Passage zeigt.
- Versicherungen: Antworten aus Tarifwerken und Bedingungen, sauber an die jeweilige Police geknüpft.
- Bildung und Verlage: ein Assistent, der nur aus geprüften Lehrmaterialien schöpft.
Typische Anwendungsfälle
- Ein Support-Assistent, der aus Handbüchern belegt statt zu raten.
- Ein internes Frage-Antwort-System über verteilte Projektdokumente.
- Ein Rechercheassistent, der Angebote aus früheren Ausschreibungen zusammensucht.
- Ein Onboarding-Helfer, der neue Mitarbeitende aus dem Wiki bedient.
- Ein Vertriebsassistent, der Produktdetails aus der Preisliste holt.
Entscheidungshilfe
| Signal | RAG passt | Alternative |
|---|---|---|
| Antwort braucht eigene Quelle | Suchschicht plus Modell | reines Modell rät |
| Wissen ändert sich laufend | Dokumente indexieren | Fine-Tuning veraltet schnell |
| Herkunft muss sichtbar sein | Fundstelle mitliefern | Antwort ohne Beleg |
| Nur Allgemeinwissen gefragt | eher nicht | Modell direkt fragen |
Beispiel
Ein Team legt seine Handbücher und Tickets in eine durchsuchbare Wissensbasis und verbindet sie mit dem Assistenten. Fragt jemand nach einem Vorgang, sucht das System zuerst die passenden Absätze und formuliert daraus eine Antwort mit Verweis. Wer keine Leserechte auf ein Dokument hat, sieht dessen Inhalt auch nicht. Das Beispiel beschreibt die Methode, keine behauptete Kennzahl.
Verbindung zu Services
RAG ist das technische Rückgrat vom Company Brain und von einem persönlichen KI-Assistenten. Für eigene Abläufe lässt es sich in KI-Agenten einbetten.
Quellen
Diese Einordnung beschreibt gängige Praxis rund um Retrieval Augmented Generation. Qualität, Rechtevergabe und Datenschutz hängen von der Aufbereitung der Quellen, der Suche und dem gewählten Modell ab und müssen im Einzelfall geprüft werden.
