RAG in n8n (Vector Store)

Klassisches Setup (Upsert - Wissen speichern):

1. Google Drive Node (Download File).
2. Default Data Loader (File -> Text).
3. Recursive Character Text Splitter (Text -> Chunks).
4. Embeddings OpenAI (Chunks -> Vektoren).
5. Pinecone Vector Store (Insert).

Setup (Chat - Wissen abfragen):

1. Chat Trigger (User Input).
2. Agent Node (oder LLM Chain).
3. Im Agent Node unter "Tools": Verbinde den Vector Store Tool.
4. Der Agent entscheidet selbst: "Muss ich in der DB suchen? Ja."

Praxisroutine

In der Praxis lernst du RAG in n8n (Vector Store), indem du mit einem kleinen, kontrollierten Beispiel beginnst. Baue zuerst einen Minimalfall, prüfe das Ergebnis, veraendere genau eine Sache und beobachte, was sich ändert. Notiere dir Eingabe, Aktion, Ausgabe und typischen Fehler.

Übung: Erstelle ein Beispiel aus deinem Alltag, fuehre den Ablauf gedanklich Schritt für Schritt durch und markiere die Stelle, an der du Feedback oder ein Log brauchst. Wenn du diese Stelle benennen kannst, verstehst du den Begriff praktisch.

1. In-Memory Vector Store

Zum Testen brauchst du kein Pinecone/Qdrant. n8n hat einen In-Memory Vector Store. Er baut den Index bei jedem Workflow-Start neu auf. Gut für "Analysiere dieses eine hochgeladene PDF jetzt". Schlecht für "Wissensbasis der ganzen Firma" (da flüchtig).

2. Metadata Filtering

Du hast 100 PDFs. 50 von "Marketing", 50 von "Tech". User fragt: "Wie installiere ich das?" Wenn RAG im Marketing-Ordner sucht, findet es Quatsch. Lösung: Beim Upload Metadaten speichern ({ department: "tech" }). Im Retrieval Node (Tool) einen Filter setzen: department == "tech". Das erhöht die Präzision massiv.

3. Window Buffer Memory

Der Chatbot soll sich an die letzte Frage erinnern. Das macht der Window Buffer Memory Node. Aber Achtung: RAG Chunks + Chat History füllen das Context Window schnell. GPT-3.5 (4k) crasht oft. Nutze Modelle mit großem Fenster (GPT-4-Turbo 128k oder Claude 3) für komplexe RAG-Flows in n8n.

Qdrant und Persistent Vector Stores

Der In-Memory Store verpufft nach jeder Execution. Für Enterprise-RAG-Bots (wie ein permanentes "HR-Handbuch") muss n8n an externe Vektor-Datenbanken angebunden werden (Pinecone, Milvus oder Qdrant). Qdrant bietet sich an, da es extrem performant in Rust geschrieben ist und per REST-API nahtlos in n8n andockt. Man baut einen Cronjob-Workflow (z. B. "Jeden Freitag"), der neue Confluence-Pages oder Google-Docs per API zieht, splittet, die Vector-Embeddings von OpenAI berechnen lässt (via $json.embedding) und sie per Qdrant-Node (Upsert Batch) in eine Collection schiebt. Der eigentliche Chat-Workflow liest dann ratenschnell (100ms) per Similarity Search Node aus Qdrant, ohne jemals wieder Parsen zu müssen.

Chunk Size und Tokenizer-Overlap

Ein Recursive Character Text Splitter Node in n8n benötigt Feintuning. Setzt man die Chunk Size auf 2000 Zeichen (ohne Overlap), reißt der Algorithmus gnadenlos mitten in einem Satz ab. Wenn in Chunk 1 steht: "Das Passwort lautet " und in Chunk 2: "12345", findet die KI auf die Frage "Wie lautet das Passwort?" niemals die Antwort, da der semantische Bezug im Embedding getötet wurde. Die Lösung ist der Overlap (Überlappung). Man setzt Chunk Size: 1000 und Chunk Overlap: 200. Jeder neue Chunk nimmt die letzten 200 Zeichen des vorherigen Chunks mit. Dadurch wird der Informations-"Klebstoff" an den Rändern für das Vector-Matching konserviert.

Das RAG Tooling Pattern (Agentic Search)

Die absolute Profiklasse von n8n (Version 1.0+) ist die Anbindung des Vector Stores nicht als blinden Vorab-Fetcher, sondern als LLM Tool. Man bindet Pinecone an einen Tool-Node ("Store: Confluence_DB") und gibt dem Tool eine exakte Beschreibung: Use this tool to search for HR policies and vacation days. Der Agent Node (ausgerüstet mit GPT-4) erhält die Frage: "Wieviel Urlaub habe ich und wie wird das Wetter?". Das LLM denkt iterativ: "Das Wetter kann ich checken (Weather API Tool). Für den Urlaub rufe ich das 'Confluence_DB' Tool auf". Das LLM generiert selbst (!), was es in die Vector-Suche eingibt (query: "vacation rules"), holt sich den Kontext in seinen Scratchpad-Speicher und formuliert dann souverän die Final-Antwort. Das n8n-RAG wird dynamisch.