Niedriglatentes Streaming

Stetig steigende Effizienzanforderungen, leistungsfähiger werdende Sensorhardware und Rebound-Effekte sorgen dafür, dass das Volumen zu verarbeitender Datenströme in modernen, industriellen KI-Anwendungen kontinuierlich wächst. In Dr. Schäfers Zeit als Produktverantwortlicher im autonomen Fahren am Deutschen Zentrum für Luft und Raumfahrt (DLR) mussten die eingesetzten Fahrzeuge ihre Umgebung in Echtzeit wahrnehmen. Das erforderte Latenzzeiten im Mikro- bis Millisekundenbereich für verschiedene Verarbeitungsschritte. In der industriellen Produktion haben wir Prozesse kennengelernt, die im Rahmen extrem kurzer Taktzeiten arbeiten müssen, um keine Engpässe zu erzeugen. Dabei können Durchsatzanforderung von mehreren Gigabyte pro Sekunde für eine optische Qualitätssicherung am Band entstehen.

Gleichzeitig fand in der Entwicklung von Rechenhardware mit der Jahrtausendwende ein fundamentaler Paradigmenwechsel statt. Moore's Law wird nunmehr auf die Anzahl von Rechenkernen bezogen, statt wie vorher auf deren Taktfrequenz. Selbst in Edge-Devices, wie z.B. Mobiltelefonen und Industrie-PCs werden inzwischen Mehrkernsysteme verbaut, um wachsenden Leistungsanforderungen gerecht zu werden. Dies erfordert einen fundamentalen Paradigmenwechsel in der Entwicklung skalierbarer Software hin zur Parallelverarbeitung. Dabei gibt es jedoch ein Problem: Amdahl's Law ordnet die Skalierbarkeit paralleler Software ein; mit der wesentlichen Aussage, dass der nicht parallelisierbare Anteil einer Software reziprokal in dessen Skalierfähigkeit eingeht. Das bedeutet insbesondere, dass übliche, teure Mechanismen der Synchronisierung die Skalierfähigkeit beschränken. Mit Prozessoren, die keine nennenswert höheren Taktfrequenzen mehr erreichen werden und Parallelisierungsparadigmen, die hochgradig limitiert sind, können Performance-Engpässe, ab einem bestimmten Punkt, folglich nicht mehr rein durch den Einsatz von mehr oder schnellerer Hardware adressiert werden. Es braucht eine Innovation auf der Software-Ebene.

Genau hier setzt unsere Forschungs- & Entwicklungsarbeit an. Wir evaluieren die Umsetzung einer hochgradig skalierbaren Plattform für industrielle KI-Anwendungen. Dabei bildet eine auf lockfreier Speicherverwaltung aufgebaute Middleware zur Sensordatenverarbeitung den Kern unserer Innovation.Kontaktieren Sie uns.