RAG – Retrieval-Augmented Generation
KI-Architektur, die ein LLM (z.B. GPT-4, Claude) mit einer externen Wissensbasis kombiniert: Bei einer Frage werden zuerst relevante Dokumente aus einer Vector-Datenbank geholt, dann zusammen mit der Frage an das LLM gegeben. Reduziert Halluzinationen, ermöglicht aktuelle Daten.
RAG wurde 2020 von Meta-Forschern eingeführt und ist heute Standard für Enterprise-KI-Anwendungen, die spezifisches Unternehmenswissen nutzen sollen. Hintergrund: LLMs allein kennen nur ihre Trainingsdaten (Cut-off-Datum), halluzinieren bei spezifischen Fragen, können keine internen Dokumente sehen.
Ablauf: 1) Dokumente werden in kleine Chunks aufgeteilt und als Vector Embeddings in einer Vector-Datenbank gespeichert (z.B. Pinecone, Weaviate, Qdrant). 2) Bei Nutzer-Frage wird die Frage selbst in einen Vector umgewandelt. 3) Ähnlichste Dokument-Chunks werden gefunden. 4) Diese Chunks plus die Frage werden an das LLM gegeben. 5) LLM antwortet basierend auf Quellen.
Vorteile: aktuelle Daten (Dokumente werden in Echtzeit aktualisiert), Quellen-Nachweis (Antwort verlinkt auf konkrete Dokumente), Privacy (Daten verlassen Unternehmen nicht). Tools: LangChain, LlamaIndex als Frameworks; Cohere, OpenAI Embeddings für die Vector-Konvertierung. Pflicht für seriöse Enterprise-KI seit 2024.
Verwandte Begriffe
Solche Begriffe sicher anwenden — im IHK-Lehrgang
„RAG – Retrieval-Augmented Generation" ist einer von 9 Schlüsselbegriffen, die wir im Manager-Lehrgang in praxisnahen Modulen vertiefen. Hol dir das offizielle IHK-Zertifikat.
Kostenlos testenthekey.academy ist eine deutsche Online-Lernplattform für IHK-zertifizierte berufliche Weiterbildung — 25 Lehrgänge zu KI, Führung, Resilienz, Marketing und HR. 100 % online, self-paced, mit IHK-Zertifikat.