Explainable AI (XAI)

In Python Libraries wie SHAP oder LIME. shap.summary_plot(model, data). Du kriegst eine Grafik: "Feature A (Alter) hat den Score um +10 erhöht." "Feature B (Schulden) hat den Score um -50 gesenkt." Wichtig für Medizin (Warum Krebs-Diagnose?) und Justiz.

1. SHAP (Shapley Additive Explanations)

Basiert auf Spieltheorie (Nobelpreis Lloyd Shapley). Wie viel hat jeder Spieler (Feature) zum Sieg (Vorhersage) beigetragen? SHAP berechnet den marginalen Beitrag jedes Features über alle möglichen Koalitionen. Es ist die einzig mathematisch konsistente Methode. Nachteil: Rechenintensiv.

2. Saliency Maps

Für Bilder. Welche Pixel waren wichtig für "Katze"? Man berechnet den Gradienten des Outputs bezüglich des Inpus. Man sieht eine "Heatmap" auf dem Bild. Oft sind diese Maps aber trügerisch ("Sanity Checks for Saliency Maps").

1. Shapley Values: Die Strenge der Spieltheorie

Viele XAI-Ansätze liefern heuristische Ahnungen. SHAP ($ \phi_i$) liefert als einziges Verfahren beweisbare Axiome (Effizienz, Symmetrie, Dummy-Feature, Additivität). Die Mathematik berechnet für das "Einkommen-Feature" sein marginales Inkrement $f(S \cup {i}) - f(S)$ über alle möglichen Kombinationen (Koalitionen) $S$ der anderen Variablen und bildet das geometrische Mittel. Da es $2^N$ Koalitionen erfordert, ist die absolute Berechnung für ein LLM (mit 100k Features) praktisch unmöglich. Die Forschung nutzt Tree-SHAP (für Random Forests in $\mathcal{O}(TLD^2)$) oder Kernel-SHAP (statistisches Sampling), um das NP-harte Problem in Sekundenbruchteilen für Produktionslogs annähernd zu lösen.

2. Kausale vs. Korrelative Erklärungen (Counterfactuals)

Saliency Maps und LIME leiden unter dem Korrelations-Problem: Sie zeigen "Warum hat es das gedacht?", aber sie helfen dem abgelehnten User nicht. Counterfactual Explanations drehen den Vektor auf Waschechte Kausalität. Die KI rechnet den "kürzesten Distanzvektor im Latent Space" vom aktuellen Profil zum positiven Entscheidungspunkt. Der Output ist extrem menschlich: "Wäre das Gehalt nur $500 höher gewesen, und das Alter gleich geblieben, wäre der Kredit genehmigt worden". Dies erfüllt strengste DSGVO "Actionable Insight" Paragraphen, statt dem User nur einen unverständlichen Gradient-Graphen vorzusetzen.

3. Adversarial Explanations (Robustness-Angriffe)

Die Black-Box der KI nutzt XAI für gute Zwecke, doch Hacker drehen XAI offensiv um. Wenn LIME eine Saliency Map generiert, kann ein "Adversary" einen speziellen Filter vor sein Hacker-Bild spannen (Adversarial Patch). Das Modell klassifiziert das Bild korrekt, aber modifiziert seine internen Gradienten künstlich so, dass das LIME-Erklärungstool getäuscht wird. Die Heatmap zeigt dann an: "Ich habe den Hund an der Nase erkannt!", obwohl das Modell insgeheim nur auf den Wald im Hintergrund geachtet hat (Model-Washing). Die Verifikation von Erklärungstreue ist daher ein aktives, ungelöstes Research-Battlefield.