Begriff
Deep Learning
Warum wichtig?
Dieser Begriff ist ein Knoten im SengakujiWorks-Wissensnetz. Nutze Level 0 für die erste Einordnung, Level 1 für Praxis, Level 2 für technische Struktur und Level 3 für Grenzen, Fallstricke und Expertenkontext.
Deep Learning ist der "schlaue Teil" von Künstlicher Intelligenz (KI). Stell dir vor, du willst einem Computer beibringen, eine Katze zu erkennen.
- Klassisch: Du sagst ihm regeln: "Hat Schnurrhaare, spitze Ohren."
- Machine Learning: Du zeigst ihm 1000 Katzenbilder. Er lernt statistisch.
- Deep Learning: Du baust ein künstliches Gehirn (Neuronales Netz) mit vielen Schichten ("Deep"). Es lernt selbstständig extrem komplexe Muster, die Menschen gar nicht beschreiben können. Es sieht Strukturen, Kanten, Formen, "Katzenartigkeit".
Das ist die Technik hinter ChatGPT, Midjourney und selbstfahrenden Autos.
Merksatz: Eine spezielle Art von Maschinellem Lernen, die mehrschichtige künstliche neuronale Netze nutzt.
Du nutzt es jeden Tag:
- Google Translate: Deep Learning versteht Grammatik und Kontext besser als jedes Wörterbuch.
- FaceID: Dein Handy erkennt dein Gesicht (auch mit Brille), weil ein neuronales Netz Tausende Messpunkte vergleicht.
- Spotify: "Dein Mix der Woche" wird von einer KI erstellt, die deinen Musikgeschmack tief analysiert hat.
Es braucht zwei Dinge:
- Massive Datenmengen (Big Data): Millionen von Beispielen.
- Rechenpower (GPUs): Grafikkarten, die eigentlich für Spiele gedacht waren, sind perfekt für Deep Learning.
1. Layers (Schichten)
Ein neuronales Netz hat:
- Input Layer: Die Pixel des Bildes.
- Hidden Layers: Die "Black Box" in der Mitte. Schicht 1 erkennt Kanten (Hell/Dunkel). Schicht 2 erkennt Formen (Kreis, Dreieck). Schicht 3 erkennt Objekte (Auge, Nase).
- Output Layer: Das Ergebnis ("Katze: 98%, Hund: 2%"). Je mehr Hidden Layers, desto "tiefer" (Deep) und schlauer (aber rechenintensiver) ist das Netz.
2. Training vs. Inference
- Training: Das Lernen. Dauert Wochen auf Supercomputern. ("Lerne Katze").
- Inference: Das Anwenden. Dauert Millisekunden auf deinem Handy. ("Ist das eine Katze? Ja.").
1. Backpropagation & Gradient Descent
Wie "lernt" das Netz? Die initiale Erkennung ("Ist das ein Hund?") ist reines Vorwärts-Zahlen-Jonglieren (Forward Propagation). Am Ende irrt sich das untrainierte Netz (Es sagt "Katze", war aber Hund). Die Differenz ist der "Loss" (Fehler). Über hochkomplexe Kettenregel-Derivate (Kalkül/Differenzialgleichungen) in Matrix-Mathematik wandert das Programm nun rückwärts durch das Netz (Backpropagation). Es modifiziert das Gewicht (Weight) von jedem einzelnen der Milliarden Synapsen-Verknüpfungen (Parameter) ein extrem winziges Stückchen in die Gegenrichtung des Fehlers (Gradient Descent). Dieser extrem stumpfe, iterative Prozess aus "Versuchen -> Berechnen -> Mikroskopisch anpassen" erzeugt nach Trillionen Iterationen die Intelligenz.
2. CNNs und Transformer Architekturen
Nicht jedes Netz ist gleich gebaut. Je nach Problem nutzt man andere "Hirn-Strukturen":
- CNN (Convolutional Neural Networks): Der Goldstandard für Bilderkennung (Computer Vision). Sie nutzen mathematische Faltungen, um den 2D-Kontext von Nachbar-Pixeln zu verstehen (z.B. die vertikale Kante eines Stuhls). Pixel in der rechten oberen Ecke triggern andere Neuronen als unten links.
- Transformer: Das ist das
Tin GPT. Die bahnbrechende Erfindung von 2017 für Text/Sprache (LLMs). Anders als ältere Netzwerke (RNNs), die Text Wort für Wort stur nacheinander lesen, lesen Transformer den ganzen Satz parallel. Durch "Self-Attention" ordnen sie Gewichte zu ("Wie stark bezieht sich das Wort 'sie' in Position 14 auf die Ärztin in Position 2?").
3. Overfitting (Überanpassung)
Der gefürchtetste Feind von Data Scientisten. Lernst du zu lange, lernt das Deep Learning Netz die Trainingsdaten auswendig, anstatt die tiefere, zugrundeliegende Logik zu abstrahieren. Das Netz erkennt die 10.000 Katzenbilder aus dem Datensatz perfekt zu 100%. Doch wenn du ein Foto deiner Katze hochlädst (die nie im Trainingsdatensatz war), sagt das Netz "Das ist ein Toaster". Das Modell hat seine Generalisierungsfähigkeit verloren. Man kontert Overfitting mit Regularisierungstechniken, wie Dropout: Man knipst beim Training zufällig 20% der Neuronen blind ab, damit das Netz robuster wird und sich keine extrem dominierenden Super-Neuronen-"Pfade" bilden.
Quick-Check
Ist Deep Learning dasselbe wie KI?
Nein. KI ist der Oberbegriff (Alles was schlau wirkt). Machine Learning ist ein Teil davon. Deep Learning ist wiederum ein Teil von Machine Learning (der aktuell mächtigste).Kann Deep Learning alles?
Nein. Es ist ein "Fachidiot". Eine KI, die Go spielt, kann kein Auto fahren. Und es kann nicht "verstehen" oder "fühlen", es rechnet nur Wahrscheinlichkeiten.Warum "Black Box"?
Oft wissen die Entwickler selbst nicht genau, warum das Netz so entschieden hat. Es hat in Millionen Parametern ein Muster gefunden, das für uns unsichtbar ist. Das nennt man das "Erklärbarkeitsproblem" (Explainability).