Dieses Video präsentiert ein computerbasiertes Tutorial zum Benchmarking von drei populären Computer-Vision-Modellen in ihren Nano- und Small-Varianten: YOLO26 Nano, YOLO12 Nano und RFDETR Small. Ziel ist die Evaluierung von Geschwindigkeit, Latenz und Ressourcennutzung für den realen Einsatz auf ressourcenbeschränkten Edge-Geräten (wie NVIDIA Jetson). Das Notebook demonstriert einen Python-Workflow unter Verwendung von PyTorch (mit CUDA 128 für eine RTX 5060 GPU), Ultralytics, OpenCV, Pandas und Matplotlib. Es umfasst die Einrichtung fester Benchmark-Parameter (Bildgröße 640, Konfidenzschwellenwert 0,25, IOU 0,45), benutzerdefinierte Hilfsfunktionen zur VRAM- und System-RAM-Überwachung, CUDA-Speicherbereinigung, Modell-Caching sowie automatisierte Einzelbild- und Video-Inferenz-Schleifen.
Wichtigste Punkte & Zeitstempel
0:02 Modellvergleich: Vorstellung des Benchmarks zum Vergleich von YOLO26 Nano, YOLO12 Nano und RFDETR Small (jeweils in Nano- oder Small-Ausführung) hinsichtlich Geschwindigkeit und Edge-Inferenz-Leistung.
0:40 Tutorial-Setup & Bibliotheken: Installation der Kernbibliotheken wie Ultralytics, RFDETR, OpenCV, Pandas, Matplotlib, TQDM sowie einer CUDA 128-unterstützenden PyTorch-Version für die NVIDIA RTX 5060 GPU.
1:56 Benchmark-Parameter: Definition zentraler Inferenzkonfigurationen, darunter eine Bildgröße von 640 Pixeln, ein minimaler Konfidenz-Schwellenwert von 0,25, ein IOU-Wert von 0,45 und die Ausführung auf dem CUDA-Gerät.
2:35 Speicher- und Hilfsfunktionen: Erstellung von Hilfsfunktionen zur Überwachung von VRAM- und RAM-Ressourcen sowie zur vollständigen Bereinigung des CUDA-Speichers nach jedem Modelllauf, um Ergebnisverfälschungen zu verhindern.
3:50 Modell-Caching & Warmup: Implementierung von Vorabladungs- und Caching-Mechanismen für Modellgewichte, um Ladezeiten während der eigentlichen Inferenz zu umgehen, gefolgt von einer Funktion zur Frame-Verarbeitung.
4:54 Visualisierungs- und Metrik-Tools: Programmierung von Funktionen zur Latenzmessung, Objektzählung pro Frame sowie zum Einblenden von Begrenzungsrahmen (Bounding Boxes) und Leistungsmetriken direkt im Videobild.
5:18 Einzelbild-Benchmark (YOLO26): Ausführung des Benchmarks auf einem Testframe (Timestamp 10 Sekunden) mit Live-Ausgabe von FPS, Detektionen, P50- und P95-Zeiten sowie ca. 2 GB RAM-Auslastung.
6:16 YOLO12 Nano Inferenz: Durchführung und Analyse der Metriken für das YOLO12 Nano-Modell auf Basis eines einzelnen Videoframes.
6:26 Video-Benchmark-Loop: Automatisierte Ausweitung des Benchmarking-Prozesses auf alle Frames eines Videos zur kontinuierlichen Leistungsbewertung.
Glossar
Computer Vision: Ein Teilbereich der künstlichen Intelligenz, der es Computersystemen ermöglicht, sinnvolle Informationen aus digitalen Bildern oder Videos zu extrahieren und zu verarbeiten.
YOLO (You Only Look Once): Eine hocheffiziente Familie von Echtzeit-Objekterkennungsmodellen, die die Objekterkennung als ein einziges Regressionsproblem behandelt.
RFDETR: Ein modernes Computer-Vision-Modell (oft auf Transformer-Basis wie DETR – DEtection TRansformer), das hier in seiner kleineren Variante verglichen wird.
Nano- und Small-Varianten: Extrem komprimierte und leichtgewichtige Versionen neuronaler Netze, die für den Betrieb auf stromsparenden Edge-Geräten optimiert sind.
Edge-Geräte (Edge Devices): Dezentrale Hardware-Einheiten (wie NVIDIA Jetson), die Daten lokal vor Ort und nicht in einer zentralen Cloud verarbeiten.
RTX 5060: Eine Grafikkarte (GPU) von NVIDIA, die für rechenintensive Workloads wie Deep Learning und Inferenz genutzt wird.
CUDA (Compute Unified Device Architecture): Eine parallele Rechenplattform und Programmierschnittstelle von NVIDIA, die die Ausführung von Software auf GPUs beschleunigt.
Ultralytics: Ein kommerzielles Software-Unternehmen und Framework, das für die Entwicklung, das Training und die Bereitstellung von YOLO-Modellen bekannt ist.
IOU (Intersection over Union): Eine mathematische Kennzahl zur Bestimmung der Genauigkeit von Objekterkennungsmodellen, die das Verhältnis von Schnittmenge zur Vereinigungsmenge zwischen vorhergesagter und echter Bounding Box misst.
P50 und P95 (Perzentile): Statistische Maße zur Bewertung von Latenz; P50 repräsentiert die mittlere Verarbeitungszeit (Median), während P95 anzeigt, dass 95 % aller Messungen diesen Schwellenwert nicht überschreiten.
VRAM (Video Random Access Memory): Dedizierter Grafikspeicher, der zur temporären Speicherung von Modelldaten und Bildrahmen während des Rechenprozesses auf der GPU dient.
BGR (Blue-Green-Red): Ein digitales Farbkanalformat, bei dem Pixeldaten in der Reihenfolge Blau, Grün und Rot abgespeichert werden (Standardformat in der OpenCV-Bibliothek).
PyTorch: Eine weit verbreitete Open-Source-Bibliothek für maschinelles Lernen auf Basis von Python, entwickelt von Meta.
TQDM: Eine Python-Bibliothek zur schnellen Erstellung von Fortschrittsbalken (Progress Bars) für Schleifen.