RAG (Retrieval-Augmented Generation)
Verfahren, das ein LLM mit deinen eigenen Dokumenten verbindet: Das System sucht erst in deiner Wissensbasis und antwortet auf dieser Grundlage.
RAG kombiniert zwei Schritte: (1) Eine semantische Suche in deinen eigenen Daten (Produktdokumentation, Wissensdatenbank), (2) Eine Antwort-Generierung durch ein LLM, das die gefundenen Passagen als Kontext nutzt.
Der Vorteil gegenüber Fine-Tuning: Du musst das Modell nicht neu trainieren. Du fütterst es nur mit den passenden Dokumenten zur Laufzeit. Updates an deiner Wissensbasis wirken sofort.
Standardarchitektur 2026
Dokumente werden in Chunks zerlegt, jeder Chunk als Embedding in einer Vector Database gespeichert. Bei einer Nutzer-Anfrage: Embedding der Frage berechnen, ähnlichste Chunks suchen, Top-3-5 als Kontext an das LLM. Antwort wird auf dieser Grundlage generiert.
Beispiele aus der Praxis
Beispiel 1 · Kundenservice-Chatbot: Ein Energieversorger setzt RAG auf seine FAQ + Tarifdokumente. Statt das Modell zu fine-tunen, werden bei jeder Anfrage die passenden Dokumente live nachgeschlagen.
Beispiel 2 · Compliance-Assistent: Anwaltskanzlei nutzt RAG mit Mandanten-Akten + Gesetzestexten. Antworten enthalten Quellenangaben. DSGVO-konform und nachvollziehbar.
:quality(85))
Solche Begriffe sicher anwenden — im IHK-Lehrgang
„RAG (Retrieval-Augmented Generation)" ist einer von 9 Schlüsselbegriffen, die wir im Manager-Lehrgang in praxisnahen Modulen vertiefen. Hol dir das offizielle IHK-Zertifikat.
Kostenlos testenthekey.academy ist eine deutsche Online-Lernplattform für IHK-zertifizierte berufliche Weiterbildung — 25 Lehrgänge zu KI, Führung, Resilienz, Marketing und HR. 100 % online, self-paced, mit IHK-Zertifikat.