Halluzination: Definition, Ursachen und Kontrolle
Definition
Eine Halluzination ist eine Antwort eines Sprachmodells, die flüssig und überzeugend klingt, aber sachlich falsch oder frei erfunden ist. Das Modell füllt Lücken mit plausibel wirkenden Formulierungen, statt eine fehlende Information einzuräumen. Für einen KI-Assistenten ist das der wichtigste Qualitätsfaktor, denn eine falsche Auskunft mit Selbstbewusstsein richtet mehr Schaden an als ein ehrliches Ich weiß es nicht.
Warum der Begriff zählt
Ein Assistent, der dein Wissens-Gehirn abfragt, wird nur genutzt, wenn man seinen Antworten vertraut. Halluzinationen zerstören dieses Vertrauen schneller als jede langsame Antwort. Wer den Begriff versteht, baut die richtigen Schutzmechanismen ein: Antworten aus freigegebenen Quellen, sichtbare Herkunft und eine klare Übergabe an den Menschen, sobald die Grundlage dünn wird. So bleibt der persönliche Assistent belastbar statt bloß eloquent.
Wann es relevant ist
- Der Assistent gibt Auskünfte, auf die jemand eine Entscheidung stützt.
- Antworten betreffen Zahlen, Fristen, Verträge oder Richtlinien.
- Das Company Brain wird auch von Personen genutzt, die das Thema nicht selbst prüfen können.
- Ein Agent leitet aus einer Antwort eine Aktion ab.
Wann nicht
Bei rein kreativen Aufgaben wie einem ersten Textentwurf oder einer Ideensammlung ist eine frei formulierte Antwort erwünscht, und der Begriff Halluzination trifft dort weniger. Auch bei Fragen, die der Nutzer sofort selbst gegenprüft, ist das Risiko klein. Kritisch wird es erst, wenn niemand mehr nachkontrolliert.
Branchen, die das nutzen
- Steuer- und Rechtsberatung: hier zählt jede Zahl und jeder Paragraph, ein Assistent muss belegen statt raten.
- Medizintechnik und Pharma: Auskünfte zu Zulassung und Anwendung dürfen nicht erfunden sein.
- Banken und Versicherungen: Produkt- und Regelauskünfte müssen auf geprüften Quellen beruhen.
- Bildung und Weiterbildung: ein Lern-Assistent, der Fakten erfindet, untergräbt den ganzen Zweck.
Typische Anwendungsfälle
- Ein Company Brain zeigt zu jeder Antwort die Quelle, damit Nutzer die Aussage prüfen können.
- Der persönliche Assistent sagt offen, wenn eine Information nicht im freigegebenen Wissen steht.
- Ein Prüf-Schritt vergleicht die Antwort mit dem Quelltext, bevor sie ausgegeben wird.
- Ein Agent bricht ab und fragt nach, statt auf einer unsicheren Annahme zu handeln.
- Kritische Auskünfte werden mit einem Vertrauens-Hinweis versehen.
Entscheidungshilfe
| Signal | Halluzination ist ein Risiko | Alternative |
|---|---|---|
| Antwort stützt eine Entscheidung | Quellenbindung und Prüf-Schritt nötig | freies Modell ohne Anbindung meiden |
| Nutzer prüft nicht selbst nach | sichtbare Herkunft erzwingen | reines Chatfenster genügt nicht |
| Kreativer Erstentwurf | geringes Risiko | freie Formulierung ist erwünscht |
| Agent löst Aktionen aus | harte Abbruchregeln setzen | ohne Freigabe nicht handeln lassen |
Beispiel
Ein Team bindet seinen Assistenten strikt an das freigegebene Company Brain und lässt zu jeder Antwort die Textstelle mitliefern. Findet der Assistent keine Belegstelle, antwortet er nicht mit einer Vermutung, sondern verweist auf die zuständige Person. So sinkt das Risiko erfundener Auskünfte deutlich. Das Beispiel beschreibt die Methode, nicht eine behauptete Fehlerquote.
Verbindung zu Services
Belegbare Antworten entstehen über ein sauber angebundenes Company Brain und einen persönlichen KI-Assistenten mit klaren Grenzen, bei Aktionen zusätzlich über kontrollierte KI-Agenten.
Quellen
Diese Einordnung beschreibt gängige Praxis zum Umgang mit Halluzinationen. Wie stark das Risiko im Einzelfall ist, hängt vom Modell, der Anbindung an Quellen und den gesetzten Grenzen ab und muss konkret geprüft werden.
