LLM-Grundlagen

Ein Large Language Model verarbeitet Text als Tokens und erzeugt Antworten durch Wahrscheinlichkeiten im Kontextfenster. Wer heute mit LLMs arbeitet, wählt zwischen drei Gruppen: proprietär (Cloud-API), open weight (Gewichte herunterladbar, aber eingeschränkte Lizenz) und Open Source im OSI-Sinn (freie Lizenz wie Apache 2.0 oder MIT).

Stichtag dieses Snapshots: 2026-07-20. Modellversionen und Lizenzen ändern sich – diese Übersicht ist ein Snapshot und muss periodisch erneuert werden.

Im Lehrgang gehört dieser Begriff zur Phase lokale AI, Datenkontrolle, Modellgrenzen und Automatisierung. Er ist nicht als isolierte Definition gedacht, sondern als Baustein, den du später in echten Fällen wiedererkennst. Wenn du ganz neu einsteigst, musst du zuerst drei Dinge können: den Zweck in eigenen Worten erklären, die Grenze des Begriffs nennen und sagen, woran du in der Praxis erkennst, dass er gerade relevant ist.

Merksatz: LLM-Grundlagen beantwortet nicht jede Frage, aber es sortiert einen wichtigen Ausschnitt der Arbeit so, dass du nicht blind ausprobierst. Für Benchmark-Zahlen lies zusätzlich Modelle benchmarken.

Du prüfst ein LLM immer gegen einen konkreten Zweck: Datenschutz, Kosten, Geschwindigkeit, Qualität und Automatisierbarkeit. Drei schnelle Fragen:

Welche Aufgabe soll das Modell wirklich lösen?
Musterantwort: Beginne mit dem konkreten Fall, prüfe die Fakten und erkläre den Begriff daran. Für diesen Abschnitt gilt: Du prüfst ein LLM immer gegen einen konkreten Zweck: Datenschutz, Kosten, Geschwindigkeit, Qualität und Automatisierbarkeit. Drei schnelle Fragen:
Welche Daten dürfen lokal, intern oder extern verarbeitet werden?
Musterantwort: Beginne mit dem konkreten Fall, prüfe die Fakten und erkläre den Begriff daran. Für diesen Abschnitt gilt: Du prüfst ein LLM immer gegen einen konkreten Zweck: Datenschutz, Kosten, Geschwindigkeit, Qualität und Automatisierbarkeit. Drei schnelle Fragen:
Darf ich das Modell frei verwenden, nur intern oder nur gegen Bezahlung? → Lizenz!

Das Ziel ist nicht, sofort Experte zu sein. Das Ziel ist, den Normalfall sauber zu erkennen, keine riskanten Annahmen zu treffen und die nächste sinnvolle Handlung begründen zu können.

Miniübung für den Lehrgang: Nimm ein Modell aus der Snapshot-Tabelle unten und notiere in zwei Sätzen, in welche der drei Gruppen (proprietär / open weight / Open Source) es fällt – und warum.

Vorher solltest du Token und Lokale AI Grundlagen verstanden haben.

Auf Level 2 trennst du proprietär, open weight und Open Source sauber und erkennst die typischen Snapshot-Fakten eines Modells.

Drei Lizenzgruppen (Stichtag 2026-07-20)

Proprietär / Cloud-API: Modell nur über API nutzbar, Gewichte nicht veröffentlicht. Beispiele: GPT-5.2 (OpenAI, LLM-01, Release 2026-06-26), Claude Opus 4.5 (Anthropic, LLM-03, Release 2025-11-24), Gemini 3 Pro (Google, LLM-05, Release 2025-11-18, 1M–2M Kontext).
Open Source (OSI-konform): Freie Lizenz wie Apache 2.0 oder MIT. Beispiele: Qwen3 (LLM-07, Apache 2.0, Release 2025-04-29), DeepSeek V3.2 (LLM-10, MIT, 671B/37B aktiv), Phi-4 (LLM-15, MIT, 14B), GLM-4.6 (LLM-17, MIT, 355B/~32B).
Open weight (NICHT OSI-konform): Gewichte herunterladbar, aber mit eigener Lizenz. Beispiele: Llama 4 Scout (LLM-12, Llama Community License mit MAU-Cap), Gemma 3 (LLM-14, 1B–27B, Gemma License), Mistral Large 2 (LLM-18, Mistral Research License – oft fälschlich als Apache bezeichnet).

Wichtig: „Open weight" ist nicht gleich „Open Source". Apache 2.0 und MIT sind OSI-konform; Llama-, Gemma- und Mistral-Lizenzen sind es nicht. Für Hobbyisten ist der MAU-Cap der Llama-Lizenz praktisch oft irrelevant, für kommerzielle Nutzung muss er aber geprüft werden.

Spezialisierungen (Beispiele)

Coder-Modelle: Qwen3-Coder 480B/35B, 256K Kontext, Apache 2.0 (LLM-09) – SWE-bench via OpenHands-Harness.
MoE mit Sparse Attention: DeepSeek V3.2 mit DSA (LLM-11).
Sehr großes MoE, Modified MIT: Kimi K2 1T/32B (LLM-16).

Runtime für lokale/self-hosted Modelle

Für Server-Serving ist vLLM (HW-06, Apache 2.0, PagedAttention) der Standards – skaliert deutlich besser als Convenience-Tools. Mehr dazu in llama.cpp, Ollama, LM Studio.

Schema für die Praxis

Eingang: Welche Beobachtung, Anfrage oder Aufgabe startet den Vorgang?
Der Eingang ist der konkrete Auslöser: eine Beobachtung, Anfrage, Messung, Datei, Fehlermeldung oder Entscheidung. Schreibe zuerst den Rohbefund auf und trenne ihn von deiner Vermutung.
Prüfung: Welche Fakten (Lizenz, Kontextlänge, Größe, Benchmark) müssen belegt werden, bevor du handelst?
Bei der Prüfung belegst du die Fakten, bevor du handelst: Was ist passiert, wo passiert es, seit wann, wie oft, mit welcher Auswirkung und mit welchem Nachweis? Erst danach entscheidest du den nächsten Schritt.
Aktion: Was ist der kleinste sinnvolle Schritt?
Die Aktion ist der kleinste reversible Schritt, der Klarheit bringt: eine Messung, ein kontrollierter Test, eine Rückfrage, ein Backup, eine Dokumentation oder eine sichere Änderung mit beobachtbarem Ergebnis.
Nachweis: Was dokumentierst du (Modellversion + Datum + Lizenz + Quelle)?
Der Nachweis hält fest, was entschieden und beobachtet wurde: Ausgangslage, Prüfschritte, Ergebnis, Zeit, Beteiligte, offene Risiken und der nächste sinnvolle Schritt. So kann jemand anderes den Fall nachvollziehen.

Für Benchmark-Zahlen gilt das Pflichtwissen aus Modelle benchmarken: Jede Zahl braucht Quelle, Harness und Stichtag.

Verwandte Begriffe für die Vertiefung: Token, Prompt Design (Engineering), Lokale AI Grundlagen, Modelle benchmarken.

Auf Expertenniveau geht es nicht mehr um das Wiederholen einer Definition. Du bewertest Randfälle, Grenzen, Verantwortlichkeiten und Folgewirkungen.

Snapshot ist nicht Ewigkeit

Eine Modell-Lizenz kann sich zwischen Releases ändern – Apache 2.0 in Version N bedeutet nicht Apache 2.0 in Version N+1. Prüfe bei jedem Upgrade die aktuelle Model Card und das Datum.

Praxisfallen

„Open Source" = „Gewichte vorhanden": Falsch. Llama 4, Gemma 3 und Mistral Large 2 sind „open weight", nicht OSI-konform „Open Source".
Hersteller-Benchmark ohne Harness-Info: Herstellerzahlen sind Selektion – siehe Modelle benchmarken.
Mistral Large 2 als Apache 2.0 bezeichnen: Häufiger Fehler. Es steht unter der Mistral Research License (LLM-18).
Ein Modell nach Hype auswählen: Statt Datenlage, Hardware, Lizenz, Latenz und eigener Qualitätsmessung zu prüfen.
RAG als Wahrheitssystem: Retrieval, Kontext und Modellantwort müssen getrennt validiert werden.
Lokale Verarbeitung automatisch als sicher betrachten: Logs, Plugins, Downloads und Benutzerrechte bleiben relevant.
Benchmarks als einziger Maßstab: Sie ersetzen keine eigenen Testfälle aus der echten Arbeit.

Goldstandard

Du kannst einem Laien die drei Lizenzgruppen erklären, ein Modell korrekt zuordnen, Modellversion + Datum + Lizenz + Quelle dokumentieren und die Grenze zwischen Snapshot und Ewigkeit benennen.