Adaptive AI

• Personalisierung: Netflix empfiehlt dir heute was anderes als gestern, weil du gestern Horrorfilme geschaut hast.
• Robotik: Ein Roboter läuft auf Asphalt. Plötzlich kommt Sand. Adaptive AI merkt "Rutschig!" und ändert sofort den Gang, ohne dass ein Programmierer eingreifen muss.

1. Online Learning vs. Batch Learning

• Batch: Trainiere Modell auf 1 TB Daten -> Fertig. (Statisch).
• Online: Modell bekommt Daten Strom-weise. Update Weights -> Predict -> Update Weights. (Dynamisch). Gefahr: Catastrophic Forgetting. Wenn die KI heute nur Katzen sieht, vergisst sie vielleicht, wie Hunde aussehen.

2. Concept Drift

Daten ändern sich. Früher: "Kunde kauft im Dezember viel Glühwein." Klimawandel: Dezember ist warm -> Kunde kauft Bier. Eine statische KI würde weiter Glühwein bestellen (Fehler). Adaptive AI erkennt den "Drift" (Musterverschiebung) und korrigiert die Prognose.

1. Continual Learning Repositories & Experience Replay

Die radikalste Hürde für Adaptive AI ist das Catastrophic Forgetting: Das Phänomen überschriebener synaptischer Gewichte in neuronalen Netzwerken, sobald man strikt auf neue Daten-Tasks trainiert und die alten nicht mehr zeigt. Production-Ansätze nutzen deshalb oft Experience Replay Memory (wie DQN). Neben echtem Online-Datenstrom puffert das System einen Reigen aus "kritischen, repräsentativen Alt-Datenpunkten". Ist ein Update-Schritt im Gange, mischt der Algorithmus die frischen Batches mit Zufalls-Samples der Vergangenheit, um die Loss-Landscape stabil zu flanken und das alte Wissen "warmzuhalten". Alternativ helfen Regularisierungstechniken (z.B. Elastic Weight Consolidation / EWC), welche Gewichte, die fundamental für alte Tasks waren, mathematisch "versteifen".

2. MLOps und Continuous Model Delivery (CT/CD)

Ein "lernendes" Modell in Prod ist der blanke Horror eines SRE-Engineers. Bei statischen Modellen kann man vor dem Container-Deployment Hunderte Benchmarks laufen lassen (Shadow-Mode). Adaptive AI zwingt Software-Pipelines zur Continuous Training Automatisierung. Um Ausbrüche (wie Tay) zu verhindern, braucht der MLOps-Stack harte Thresholding-Guardrails: "Wenn die Confidence des Modells auf den Test-Set-Gold-Standard unter 94% fällt, kippe sofort das letzte Weight-Checkpoint-Backup rein, kappe die Ingestion und setze PagerDuty auf Rot."

3. Test-Time Compute vs. Parametric Adaptation

Aktuelle Spitzenforschung (wie OpenAI o1) verschiebt das Konzept der "Adaptation" leicht: Statt die Basis-Weights Live zu ändern, gibt man dem Netz dynamische Inference-Zeit. "Denk einfach viel länger nach, wenn der Prompt komplexer wird" (Chain-of-Thought Scaling Loops). Gleichzeitig experimentieren Foundation-Modell-Schmieden mit Liquid Neural Networks und dynamischen Router-Layern. Während der Inferenz durchlaufen Datensätze je nach Kontext "andere Knoten", oder die Meta-Parameter werden via Hypernetworks (ein Netz, das Weights für ein anderes Netz ausspuckt) auf den aktuellen Prompt passgenau generiert.