Wie baue ich eine RAG-basierte Knowledge-Base?

Sechs Schritte

1. Daten sammeln + bereinigen.

2. Chunks erstellen.

3. Embeddings generieren.

4. Vector-DB einrichten.

5. Retrieval + Re-Ranking.

6. LLM-Integration.

Daten

• Doku, Wiki, PDFs, Mails.

• Bereinigung (HTML strippen, OCR bei Scans).

• Metadaten (Autor, Datum, Kategorie).

• Pro Dokument-Typ andere Behandlung.

• Aktualisierungs-Strategie.

Chunking

• 500-2000 Tokens pro Chunk.

• Semantisch sinnvoll (nicht mitten im Satz).

• Overlap 10-20 %.

• Pro Inhaltstyp andere Strategie.

• Tools: LangChain TextSplitter.

Embeddings

1. OpenAI text-embedding-3-large.

2. Cohere Embed.

3. Open-Source (BAAI, all-MiniLM).

4. Pro Sprache angepasst.

5. Multi-Modal möglich (CLIP).

Vector-DB

• Pinecone: Managed, schnell.

• Weaviate: Open-Source.

• Qdrant: Open-Source + schnell.

• ChromaDB: lokal.

• Milvus: Skalierung.

Re-Ranking

• Cohere Rerank.

• BAAI Reranker.

• Verbessert Qualität stark.

• Latenz-Erhöhung.

• Kritisch für Production.

LLM-Integration

1. Retrieved Chunks in Prompt.

2. System-Prompt mit Anweisungen.

3. Hallucination-Mitigation.

4. Quellen-Angaben.

5. Output-Validation.

Anti-Patterns

• Daten-Bereinigung gespart.

• Chunks zu klein / zu gross.

• Kein Re-Ranking.

• Updates manuell.

• Hallucination unbedacht.