RAG: erst nachschlagen, dann antworten
RAG heißt: Die KI darf ins Buch schauen. Statt nur aus dem Gedächtnis zu antworten, sucht sie zuerst in bestimmten Unterlagen, etwa im Firmen-Handbuch, und formuliert dann die Antwort mit diesen Fundstellen.
💡 Gute RAG-Antworten nennen ihre Quelle. Fehlt sie, nachfragen: „Wo steht das?“
So funktioniert es
1. Suchen (Retrieval): Deine Frage wird mit einer Sammlung von Dokumenten verglichen. Die passendsten Abschnitte werden herausgesucht. 2. Anreichern (Augmented): Diese Abschnitte werden zusammen mit deiner Frage ins Kontextfenster gelegt. 3. Antworten (Generation): Das LLM schreibt die Antwort und stützt sich dabei auf die gefundenen Stellen.
Warum das nützlich ist
- Aktuell: Das Modell selbst kennt nur den Stand seines Trainings. Mit RAG kann es auf neue Unterlagen zugreifen, ohne neu trainiert zu werden.
- Eigenes Wissen: Firmen können ihre Handbücher, Preislisten oder Anleitungen anbinden.
- Weniger Erfundenes: Mit echten Fundstellen sinkt das Risiko von Halluzinationen. Ganz verschwinden sie nicht.
Ein Beispiel aus dem Alltag
Eine Prüfung mit und ohne Unterlagen. Ohne Unterlagen schreibst du, was du noch weißt, und rätst bei Lücken. Mit offenem Buch schlägst du nach und kannst die Seite angeben.
Häufige Fragen
Ist RAG dasselbe wie eine Websuche?
Ähnlich. Auch eine KI mit Websuche schlägt erst nach und antwortet dann. Bei RAG ist die Quelle aber oft eine feste Sammlung, zum Beispiel interne Dokumente.
Kann ich mich auf RAG-Antworten verlassen?
Mehr als auf Antworten aus dem Gedächtnis, aber nicht blind. Die KI kann die falsche Stelle finden oder sie falsch zusammenfassen. Bei Wichtigem die Quelle selbst lesen.