LLM Node (n8n/LangChain)

In n8n ("Basic LLM Chain"):

1. Model Node: Wähle "OpenAI Chat Model" (Connect Credential).
2. Prompt: "Du bist ein Support-Bot. Antworte höflich auf: {{ $json.email_text }}".
3. Output Parser: "Gib mir nur JSON zurück: { sentiment: 'positive', summary: '...' }". Das Ergebnis nutzt du im nächsten Node (z. B. "If sentiment == negative -> Slack Alert").

Praxisroutine

In der Praxis lernst du LLM Node (n8n/LangChain), indem du mit einem kleinen, kontrollierten Beispiel beginnst. Baue zuerst einen Minimalfall, prüfe das Ergebnis, veraendere genau eine Sache und beobachte, was sich ändert. Notiere dir Eingabe, Aktion, Ausgabe und typischen Fehler.

Übung: Erstelle ein Beispiel aus deinem Alltag, fuehre den Ablauf gedanklich Schritt für Schritt durch und markiere die Stelle, an der du Feedback oder ein Log brauchst. Wenn du diese Stelle benennen kannst, verstehst du den Begriff praktisch.

1. Chains vs. Agents

• Chain: Linear. A -> B -> C. (LLM fasst zusammen -> LLM übersetzt -> Email senden). Deterministisch.
• Agent (ReAct Pattern): Das LLM entscheidet selbst. "User will Flug buchen. Ich brauche Flugdaten. Ich rufe Tool get_flights auf. Ich sehe 3 Flüge. Ich frage User welchen er will." Das LLM läuft in einer Schleife (Loop), bis das Ziel erreicht ist. Der LLM Node ist hier der Controller.

2. Context Window & Token Management

Der LLM Node hat ein begrenztes Gedächtnis (Context Window, z. B. 128k Token). Wenn du ihm ein 200-seitiges PDF fütterst, crasht er oder vergisst den Anfang. RAG (Retrieval Augmented Generation) löst das: Ein "Vector Store" Node sucht nur die 3 relevanten Seiten aus dem PDF. Der LLM Node bekommt nur diese 3 Seiten als Context ("Grounding"). Das spart Kosten und erhöht die Genauigkeit.

3. Structured Output (Function Calling)

Das größte Problem von LLMs ist Halluzination von Formaten. Du willst JSON, er gibt Markdown. Moderne LLM Nodes nutzen Function Calling / Tool Use APIs (von OpenAI). Du definierst ein Schema (Zod/JSON Schema). Das LLM wird vom Provider gezwungen, valides JSON zu generieren, das diesem Schema entspricht. Essenziell für stabile Automatisierung.

System Prompts und Few-Shot-Prompting

Ein roher Node halluziniert schnell. Der Schlüssel liegt in der Initial-Kalibrierung per SystemPrompt. Dieser definiert die absolute Persona ("Du bist ein Datenbank-Admin. Antworte in max 3 Sätzen."). Für komplexe Taxonomie-Aufgaben nutzt man Few-Shot-Prompting direkt im Node. Man füttert 3 bis 5 exakte Frage/Antwort Paare hardcodiert als Vorbild in den LLM-Context mit ein, bevor die eigentliche User-Frage kommt. Das Modell emuliert die Struktur und den Tonfall dieser "Shots" mathematisch nahezu fehlerfrei ("In-Context-Learning"), was weitaus effektiver ist als eine Beschreibung der Regeln im Prompt.

Semantic Routing (Das Agentic Pattern)

Statt einen gigantischen Prompt zu bauen, nutzen Advanced Workflows LLM Router. Ein vorgeschalteter (schneller, billiger) LLM-Node (wie GPT-4o-mini) analysiert nur den Intent der User-Mail. "Handelt es sich um: A) Technik-Support, B) Rechnung, C) Kündigung?" (Structured Output). Daraufhin triggert ein Switch-Node (n8n) den jeweiligen Workflow. Die Rechnung-Route lädt dann via RAG die PDF-Rechnungen des Kunden aus Stripe und geht in einen separaten hoch-kontextuellen LLM Node, während die Kündigung-Route das CRM aufruft. Dies verhindert "Prompt-Verwässerung" (wo ein LLM alles können muss und dadurch schlechter entscheidet).

RAG: Chunking & Vector Search

Wenn du ein Handbuch (1000 Seiten) für den Context-Input nutzt, machst du das nicht trivial. Der Text wird vom Node-System "gechunkt" (in Blöcke von z. B. 1000 Zeichen zerlegt, mit 200 Zeichen Überlappung, damit Sätze nicht halbiert werden). Diese Chunks fließen durch ein Embedding-Modell (Macht Text zu einem 1536-dimensionalen Zahlen-Vektor) und landen in Pinecone oder Qdrant. Wenn der User fragt "Wie wechsle ich die Birne?", erzeugt das Embedding-Modell für diese Suchanfrage ebenfalls einen Vektor und sucht nach "mathematischer Nähe" (Cosine Similarity) in der Datenbank. Nur die passendsten top_k=3 Chunks werden zurück als Kontext an den finalen Chat-Response-LLM Node gegeben.