Betreuer:

• Axel Jantsch
• Matthias Bittner

Diese Arbeit befasst sich mit dem Vergleich der Leistung von Recurrent Neural Network (RNN) Architekturen mit traditionellen Convolutional Neural Networks (CNN), die für die Klassifizierung von Zeitreihen auf STM Mikrocontroller (MCU) Plattformen verwendet werden.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Matthias Wess

Diese Bachelorarbeit zielt darauf ab, ein KI-basiertes Audioeffekt-Gerät zu implementieren, das in der Lage ist, verschiedene Effekte wie Overdrive, Verzerrung und Kompression auf einem Embedded-Gerät zu simulieren. Die Forschung wird sich mit folgenden Forschungsfragen befassen:

• Was sind die Hauptfaktoren für die Latenz von KI-basierten digitalen Audioeffekten?
• Welche Hardware- und Softwarearchitektur eignet sich für die Implementierung des KI-basierten Echtzeit-Audioeffektgeräts?

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Maximilian Götzinger

In dieser Arbeit geht es um die Anpassung und Optimierung eines vorhandenen Anomalieerkennungsmodells, um es in Echtzeit auf einem Nvidia Jetson auszuführen. Dementsprechend besteht dieses Thesis-Projekt aus den folgenden Schritten:

• Untersuchen des bereits vorhandenen Anomalieerkennungsalgorithmus.
• Anpassen und Optimieren dieses bestehenden Modells für Echtzeit-Inferenz auf einer Nvidia Jetson-Plattform.
• Das angepasste Modell trainieren und validieren, sowie dessen Ausgabe evaluieren.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Martin Lechner

Dieses Projekt zielt darauf ab, gleichzeitig Gesichter zu erkennen und ihre Positionen mithilfe von Deep Learning Ansätzen zu schätzen. Das Projekt besteht aus den folgenden Schritten:

• Auswahl eines modernen CNNs für die Gesichtserkennung und Pose-Schätzung, z.B. MTCNN.
• Auswahl eines öffentlichen Gesichtsdatensatzes, z.B. WIDER-FACE.
• Training und Validierung für Gesichtserkennung und Pose-Schätzung.
• Optimierung des Modells für Echtzeit-Inferenz auf einer Embedded-Plattform, z.B. IMX8Plus NPU.
• Auswerten der Ergebnisse durch Leistungsbewertungen (Benchmarking).

Mehr Informationen., öffnet eine externe URL in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Matthias Wess

Dieses Thesis-Projekt umfasst die folgenden Schritte:

• Trainieren eines adaptive neural network.
• Anwenden einer Leistungsschätzungsmethode zur Auswahl der Netzwerkarchitektur (Werkzeuge werden vom CDL EML bereitgestellt).
• Messen der ausgewählten Netzwerke auf der eingebetteten Hardware (Messaufbau wird vom CDL EML bereitgestellt).
• Vergleichen der Ergebnisse mit Netzwerken, die auf Latenz- und FLOP-Ziele optimiert sind.
• Verbesserung der Netzwerkarchitekturauswahl basierend auf den gewonnenen Erkenntnissen.

Mehr Informationen., öffnet eine externe URL in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Matthias Wess

In dieser Arbeit geht es darum, ein Latenzschätzungsmodell auf ARM-Prozessoren zu erweitern. Darüber hinaus soll das Latenzschätzungsmodell um die Schätzung der Leistung erweitert werden. Es wurde bereits auf NVIDIA- und Intel-Plattformen erfolgreich getestet. Schätzungsmodelle ermöglichen es dem Benutzer, ein neuronales Netzwerk für eine Hardwareplattform anzupassen, ohne die tatsächliche Inferenz ausführen zu müssen, und auf diese Weise wertvolle Entwicklungszeit zu sparen.

Das Forschungsproblem besteht darin herauszufinden, wie gut unser Schätzungsmodell auf einen ARM-Prozessor abgebildet werden kann und wie gut das Latenzschätzungsmodell auf die Leistungsschätzung angewendet werden kann.

Mehr Informationen., öffnet eine externe URL in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Maximilian Götzinger

Dieses Projekt untersucht die Verbesserung von Convolutional Neural Networks (CNNs) für die Objekterkennung und Segmentierung. Normalerweise werden separate CNNs für diese Aufgaben verwendet, was die Rechenlast erhöht. Das Ziel hierbei ist die Verwendung eines einzigen Encoders für beides, wie es bei CNNs üblich ist, und die Bewertung etwaiger Genauigkeitsänderungen. Die Schritte umfassen die Auswahl eines CNN-Modells (z. B. MobileNet), das Training für die Objekterkennung, das Einfrieren des Encoders für die Segmentierung, das Training des Decoders, das Feinabstimmen der Segmentierungsarchitektur und das gleichzeitige Testen beider Netzwerke.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Maximilian Götzinger

Dieses Thesis-Projekt zielt darauf ab, RL-basierte Methoden zur Vorhersage von Zug-/Straßenbahnstrecken unter Berücksichtigung möglicher Weichen zu bewerten. Es beinhaltet die Auswahl von drei zeitgenössischen RL-Ansätzen (Value-based, Policy-based und DRL), die Verwendung eines Open-Source-Zug-/Straßenbahndatensatzes (wie RailSem19 oder OSDAR2023), das Training und die Bewertung dieser RL-Methoden für die Streckenvorhersage sowie die Optimierung der ausgewählten Techniken für die Verwendung auf eingebetteter Hardware.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Maximilian Götzinger

Der Schwerpunkt dieser Arbeit liegt darauf, modernste CNNs für die Erkennung von Schienentrassen zu bewerten. Das Projekt umfasst mehrere wichtige Schritte, darunter die Auswahl eines State-of-the-Art-Datensatzes wie RailSem19, das Training und Testen mehrerer CNN-Modelle (wie DeepLabV3, PiNet und CLRNet) für die Segmentierung von Schienentrassen, die Bewertung ihrer vergleichenden Leistung und letztendlich die Optimierung dieser Netzwerke, um Hardware-Beschleunigung zu ermöglichen.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Maximilian Götzinger

Das Ziel dieser Arbeit besteht darin, zwei CTOS CNNs zu kombinieren, die jeweils für unterschiedliche Klassifikationsaufgaben trainiert wurden, zu einem einzigen CNN. Diese Fusion zielt darauf ab, eine ähnliche Komplexität wie bei den einzelnen CTOS CNNs beizubehalten, und dabei gleichzeitig einen signifikanten Genauigkeitsverlust zu minimieren. Das Projekt umfasst mehrere Schritte, beginnend mit der Auswahl von zwei State-of-the-Art CNNs wie YOLO-NAS, pruning auf 25-50 % und durch depth-wise convolution auf channel-wise Basis fusioniert. Die anschließende Evaluation wird die relative Leistung dieser kombinierten CNNs im Vergleich zu den Originalen bewerten, gefolgt von der Optimierung des Netzwerks, um eine Hardware-Beschleunigung zu ermöglichen.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Matthias Wess

Dieses Masterarbeitprojekt zielt darauf ab, ein KI-basiertes Audioeffektgerät zu entwerfen und umzusetzen, das in der Lage ist, verschiedene Effekte wie Overdrive, Verzerrung und Kompression zu simulieren.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Matthias Wess

Dieses Masterarbeitprojekt zielt darauf ab, die Verwendung von FPGA und Vitis-AI zur Beschleunigung von semantic segmentation neural networks im Kontext der Analyse von Katastrophenszenen zu untersuchen. Wir werden am Low Power Computer Vision Challenge (LPCVC) 2023 teilnehmen und Modelle für semantic segmentation auf der NVIDIA Jetson Nano Plattform entwickeln und mit der FPGA-Performance auf Xilinx FPGAs vergleichen. Daher evaluieren wir den Einfluss von adaptiven Netzwerken und Quantisierungstechniken auf Genauigkeit, Latenz und Energieverbrauch.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Maximilian Götzinger

Das Ziel dieses Abschlussprojekts ist es, einen stacking Ansatz zur Filterung von Schienenweichen (falls vorhanden) mithilfe von zwei schwachen Modellen und einem Meta-Modell zu verwenden. Da eingebettete Systemplattformen oft begrenzte Rechenressourcen haben, muss die entwickelte Lösung auf solchen Plattformen einsetzbar und in Echtzeit ausführbar sein.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Maximilian Götzinger

Dieses Abschlussprojekt zielt darauf ab, ein bestehendes monokulares Tiefenschätzungs-CNN zu erweitern und Vorabinformationen zu integrieren, um eine skalenbewusste Tiefenschätzung vorherzusagen. Diese entwickelte auf CNN basierende Lösung soll auf einer eingebetteten Systemplattform einsetzbar und in Echtzeit ausführbar sein.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Daniel Schnöll

Diese Arbeit untersucht die Möglichkeit, statistisches Runden  durch eine modifizierte Nichtlinearität zu approximieren. Sie zielt darauf ab, die Machbarkeit und Implikationen dieser Methode zu bestimmen. Das Projekt umfasst ein Verständnis für Statistik, die Berechnung von Verteilungen für lineare/convolutionale Layer, die Integration von Verteilungen in nichtlineare Funktionen, die Bewertung des berechnungstechnischen Overheads, die Behandlung der Rückpropagation und praktische Tests im Vergleich zu herkömmlichen Methoden des statistischen Rundens.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Matthias Bittner

Ein erheblicher Teil der Forschung, Entwicklung und Endprüfung von Antriebssystemen für Fahrzeuge erfolgt auf Prüfständen. In modernen Testfabriken können eine Vielzahl verschiedener Prüfstände kombiniert werden, wie z. B. Motoren-, Getriebe-, Antriebsstrang-, Fahrzeug-, Abgas-, Batterie- oder Wechselrichter-Prüfstände. Komplexe Anlagen bestehen aus vielen Teilsystemen. Oft werden hohe Kräfte, Drehmomente, Spannungen oder Ströme implementiert, manchmal in Gegenwart von brennbaren Gasen und Flüssigkeiten. Aus diesem Grund gibt es strenge Regeln und Vorschriften zur Gewährleistung der Arbeitssicherheit. Die traditionelle Überwachung der Arbeitssicherheit erfolgt in der Regel durch regelmäßige manuelle visuelle Inspektionen von Ingenieuren und ist eine mühsame und fehleranfällige Aufgabe. Um sicherheitskritische Zustände wie z. B. auslaufende Flüssigkeiten, fehlende/verschobene Abdeckungen, lockere Kabel automatisch zu erkennen, können moderne DNN-Methoden für ihre Erkennung angewendet werden.

Mehr Informationen., öffnet eine Datei in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Martin Lechner

Das Forschungsproblem besteht darin zu analysieren, ob und wie gut 3D-Convolutions auf eingebetteter Hardware ausgeführt werden können. Dieses Thesis-Projekt besteht aus den folgenden Schritten:

1. Herunterladen, Einrichten und Reproduzieren der Ergebnisse des PointPillars-Modells auf dem KITTI-Auto-Datensatz.
2. Einrichtung der Umgebung auf NVIDIA Jetson Nano, TX2 und Xavier und Implementierung des Modells auf diesen Plattformen.
3. Bewertung der Leistung und Latenz der verschiedenen Netzwerke, um festzustellen, ob diese auf eingebetteter Hardware in autonomen Fahrzeugen anwendbar sind.

Mehr Informationen., öffnet eine externe URL in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Martin Lechner

Dieses Thesis-Projekt umfasst die folgenden Schritte:

1. Auswahl eines gängigen state-of-the-art Segmentierungs-CNNs, z.B. MobileNet3, zusammen mit einem Decoder.
2. Auswahl einer RNN-Einheit(en) basierend auf erwarteter Leistung, z.B. LSTM oder GRU.
3. Nur die RNN-Einheit(en) mit einem öffentlichen Datensatz trainieren.
4. Die ursprüngliche und die aktualisierte CNN+RNN für die Konsistenz von Videos bewerten.

Mehr Informationen., öffnet eine externe URL in einem neuen Fenster

Betreuer:

• Axel Jantsch
• Matthias Wess

Dieses Thesis-Projekt umfasst die folgenden Schritte:

1. Erstellen einer Post-Training-Quantisierungsbasis für INT8 für mehrere Netzwerke.
2. Messung der Leistung dieser Netzwerke im Vergleich zu FP32 und FP16 auf ausgewählter Hardware (dieser Teil kann in Zusammenarbeit mit anderen Teilnehmern des CD Lab durchgeführt werden).
3. Anwenden eines quantization aware training für die ausgewählten Netzwerke, um eine bessere INT8-Genauigkeit zu erzielen.
4. Anwenden von quantization aware Trainingsmethoden, um eine geringere Bitbreite der Quantisierung zu erreichen.
5. Messung der Ausführung des DNN auf den bereitgestellten Hardware-Beschleunigern.

Mehr Informationen., öffnet eine externe URL in einem neuen Fenster