Lernbegriff
GPU passthrough — GPU, CUDA und Inferenzoptimierung
GPU-Passthrough übergibt ein physisches GPU-Gerät oder Teilfunktionen an eine VM oder einen Container. Die Lernkarte zeigt die Rolle im Modul „GPU, CUDA und Inferenzoptimierung“ und einen sicheren Diagnoseweg.
Orientierung
GPU-Passthrough übergibt ein physisches GPU-Gerät oder Teilfunktionen an eine VM oder einen Container. Auf dieser Stufe trennst du Zweck, Eingabe und sichtbares Ergebnis. Ordne GPU passthrough als Teil des Moduls GPU, CUDA und Inferenzoptimierung ein, bevor du Einstellungen oder Dateien veränderst.
Praktische Anwendung
Eine Inferenz startet langsam oder endet mit Speichermangel. Beobachte für GPU passthrough vor und während eines kleinen Jobs belegten VRAM, GPU-Auslastung, Datentyp und Batchgröße; ändere nur eine Speicheroption und wiederhole dieselbe Messung. Arbeite zunächst in einer Testumgebung mit neutralen Beispielen. Notiere den Sollzustand, führe genau eine kontrollierte Änderung aus und vergleiche danach Status, Ausgabe und Logmeldungen.
Technisches Verständnis
GPU-Passthrough übergibt ein physisches GPU-Gerät oder Teilfunktionen an eine VM oder einen Container. Technisch ist GPU passthrough über Schnittstellen, Konfiguration, Zustand oder Abhängigkeiten eingebunden. Verfolge den Datenfluss von der Eingabe bis zur Ausgabe und prüfe Versionen, Rechte, Netzwerk, Speicher und Ressourcen getrennt.
Betrieb und Debugging
Eine Inferenz startet langsam oder endet mit Speichermangel. Beobachte für GPU passthrough vor und während eines kleinen Jobs belegten VRAM, GPU-Auslastung, Datentyp und Batchgröße; ändere nur eine Speicheroption und wiederhole dieselbe Messung. Im produktionsnahen Betrieb helfen messbare Signale, Least Privilege, reproduzierbare Konfiguration und ein dokumentierter Rollback. Sichere zuerst Belege, grenze die Ursache ein und verifiziere die Korrektur mit demselben Test.
Übung
Sicher ausprobieren
Eine Inferenz startet langsam oder endet mit Speichermangel. Beobachte für GPU passthrough vor und während eines kleinen Jobs belegten VRAM, GPU-Auslastung, Datentyp und Batchgröße; ändere nur eine Speicheroption und wiederhole dieselbe Messung. Öffne eine isolierte Testumgebung und führe „nvidia-smi“ aus. Beschreibe die erwartete Ausgabe vorab, ändere keine produktiven Daten und notiere einen sicheren nächsten Diagnoseschritt.
nvidia-smiQuick-Check
Kannst du Zweck, beobachtbaren Zustand und häufigste Fehlerquelle von GPU passthrough — GPU, CUDA und Inferenzoptimierung jeweils in einem Satz erklären? Welche Ausgabe würdest du zuerst sichern, bevor du etwas änderst, und welcher Test beweist anschließend, dass deine Korrektur wirklich wirksam war?