Kunde aus dem Bereich Verkehrsmonitoring · Verkehrsmonitoring / Smart City · NVIDIA Orin NX

Ein führendes Verkehrserfassungssystem

Wie wir ein Verkehrserfassungssystem von 50% auf 95% Erkennungsgenauigkeit optimiert und für den Produktionsbetrieb mit hunderten autonomen Sensoreinheiten im Feld gehärtet haben.

95%
Erkennungsgenauigkeit
von 50%
100+
Einheiten im Feld
autonom betrieben
30 FPS
Inference-Rate
Echtzeit
<200ms
End-to-End-Latenz
Kamera bis Ergebnis

Die Herausforderung

Der Kunde brauchte ein Verkehrserfassungssystem, das autonom und zuverlässig an Kreuzungen, mehrspurigen Straßen und Kreisverkehren arbeitet. Die bestehende Lösung erkannte Fahrzeuge mit rund 50% Genauigkeit — für den Produktionsbetrieb mit hunderten Sensoreinheiten bei weitem nicht ausreichend.

Gefragt war nicht nur ein besseres Modell, sondern ein Gesamtsystem, das unter realen Bedingungen 24/7 stabil läuft — bei Nacht, bei Regen, bei wechselnden Lichtverhältnissen. Über Wochen und Monate unbeaufsichtigt im Feld.

Der Lösungsansatz

Unser Ansatz war von Anfang an auf den Produktionsbetrieb ausgerichtet. Statt nur die Erkennungsgenauigkeit isoliert zu verbessern, haben wir das komplette System von der Hardware-Integration bis zur Sicherheitsarchitektur durchentwickelt.

Der entscheidende Unterschied: Jede Architekturentscheidung wurde unter der Prämisse getroffen, dass hunderte dieser Einheiten wochen- und monatelang unbeaufsichtigt im Feld stehen werden.

Wir haben die Inference Pipeline auf NVIDIA Orin NX aufgebaut und mit TensorRT int8 Optimierung die Modellperformance so weit gesteigert, dass 15 Bilder pro Sekunde bei unter 200 Millisekunden End-to-End-Latenz möglich sind. Gleichzeitig haben wir eine Docker-basierte Mikroservice-Architektur entwickelt, die Updates im laufenden Betrieb ermöglicht.

Technische Umsetzung

Hardware-Plattform

Jede Hardwareentscheidung folgt einer klaren Frage: Was braucht ein Gerät, das monatelang unbeaufsichtigt an einer Kreuzung steht?

  • NVIDIA Orin NX — GPU-beschleunigte Inference bei niedrigem Energieverbrauch, ideal für batteriebetriebene Außeneinsätze
  • CTI Hadron Carrier Board — industrietaugliches Board für den Dauerbetrieb im Feld
  • Sony IMX 662 Sensor — überlegene Low-Light-Performance für 24/7-Betrieb bei wechselnden Lichtverhältnissen
  • Teltonika RUT 241 LTE Gateway — separates Gateway eliminiert LTE-Zertifizierungsaufwand und ermöglicht Out-of-Band-Remote-Management

Inference Pipeline

Die Kern-Pipeline ist als GStreamer/Deepstream Pipeline mit fünf Verarbeitungsstufen implementiert:

Video Source
GStreamer/CSI-2
Primary Inference
YOLOv4/TensorRT int8
Object Tracker
Luenberger Observer
Message Sink
JSON Serialization
Redis Queue
Async Entkopplung

Deepstream nutzt die Hardware-Beschleunigung des Jetson NX optimal aus. Die Redis Queue entkoppelt die hochperformante C++/GStreamer-Pipeline von der Python-Datenverarbeitung — wenn der Data Collector durch Netzwerkprobleme verlangsamt ist, läuft die Inference ungestört weiter.

Deployment und Betrieb

Deployment-Varianten

  • Mobil: 12V Batterie, 72 Stunden Laufzeit, Mastmontage
  • Permanent: PoE+ über Ethernet, Dauerinstallation

Betriebszuverlässigkeit

  • 30+ Tage unbeaufsichtigter Betrieb
  • Auto-Recovery in <5 Minuten
  • OTA-Updates in <15 Minuten

Sicherheitsarchitektur

Mehrstufiger Sicherheitsansatz auf Netzwerk-, Anwendungs- und Datenebene:

Verschlüsselung

LUKS Full-Disk Encryption (at rest), TLS für alle Kommunikation (in transit), verschlüsselte OTA-Updates

Cloud-Kommunikation

Gerät-zu-Cloud-Kommunikation über Public/Private-Key-Infrastruktur mit vorinstallierten Zertifikaten für gegenseitige TLS-Authentifizierung mit AWS IoT Core.

Netzwerk

Nur Port 80/443 extern erreichbar. Kein eingehender SSH. Remote Access über Teltonika RMS.

Least Privilege

Admin-App ohne Root-Rechte. Privilegierte Operationen isoliert in separatem Systemserver mit minimaler API.

DSGVO-Konformität

Alle KI-Verarbeitung findet auf dem Gerät statt. Rohvideo verlässt niemals das Device. Nur verschlüsselte Zähldaten werden exportiert. Dieser Privacy-by-Design-Ansatz macht DSGVO-Konformität zu einer architektonischen Eigenschaft statt eines nachträglichen Zusatzes.

Ergebnisse

Metrik Vorher Nachher
Erkennungsgenauigkeit ~50% 95%
Fahrzeugklassifikation Unzureichend >90% (11 BAST-Klassen)
Inference-Performance 30 FPS, <200ms Latenz
Unbeaufsichtigter Betrieb Tage 30+ Tage
Auto-Recovery Manuell <5 Minuten
OTA-Update <15 Minuten
Deployed Units Hunderte im Feld

Das System ist heute in mehreren Varianten im Produktionsbetrieb: als mobile Lösung für temporäre Verkehrszählungen und als permanente Installation für Dauerbetrieb. Der Kunde liefert das System an Endkunden in ganz Deutschland aus.

Sie haben ein Edge AI Projekt, das den Schritt in die Produktion braucht?

Sprechen Sie mit uns über ein unverbindliches Assessment.

Projekt besprechen