News

Would you fly AI? Wie man KI-Systeme zertifiziert

In der Luftfahrt gibt es große Hoffnungen für Künstliche Intelligenz (KI). Potenzielle Anwendungen reichen von der Erkennung von Landebahnen bis zum Autopiloten der Zukunft. Weitere Anwendungsbereiche könnten die Planung von verbrauchsoptimierten Flugrouten oder die visuelle Qualitätskontrolle während der Flugzeugmontage sein. Um jedoch in der Luftfahrt eingesetzt zu werden, müssen Verfahren entwickelt werden, um KI-Systeme zu zertifizieren und damit ihre Sicherheit nachzuweisen.

Ein wesentlicher Bestandteil der Zertifizierung ist die Erklärbarkeit von KI-Algorithmen. Das bedeutet, dass die Entscheidungen, die von der KI getroffen werden, für Menschen nachvollziehbar sein müssen. Erklärungen, die an einen Benutzer gerichtet sind, ermöglichen es ihm, die Entscheidungen der KI auf Plausibilität zu überprüfen und das System besser zu verstehen.

Erkennung von Drohnenlandeplätzen

Im Projekt VeriKAS (LuFo VI, gefördert vom Bundesministerium für Wirtschaft und Klimaschutz), arbeiten ZAL GmbH und andere Partner daran, wie KI-Systeme zertifizierbar gemacht werden können und welche Rolle Erklärungen dabei spielen können. Im Rahmen des Projekts werden zwei Anwendungsfälle entwickelt, bei denen KI den Menschen in Entscheidungsprozessen unterstützt.

Der erste Anwendungsfall ist die automatische Erkennung möglicher Landeplätze für eine Drohne in einer städtischen Umgebung. Das Flugzeug ist zu diesem Zweck mit einer Kamera ausgestattet, und die aufgenommenen Bilder werden von einem neuronalen Netzwerk ausgewertet. Dem Drohnenbediener werden dann eine Karte mit möglichen Landeplätzen angezeigt. Zusätzlich gibt es für jeden möglichen Landeplatz eine kompakte Erklärung, welche Kriterien für die Bewertung relevant waren, zum Beispiel die Bodenbeschaffenheit oder die Erkennung, ob es sich um ein Dach oder eine Grünfläche handelt. Basierend auf diesen Informationen wählt der Drohnenbediener einen Landepunkt aus. Die Drohne führt dann mit Hilfe eines konventionellen Autopiloten das Landemanöver durch. Für das Training der neuronalen Netzwerke wird eine Simulationsumgebung verwendet, die ein etwa halb Quadratkilometer großes 3D-Modell eines Teils von Hamburg enthält. In der Simulation führt die Drohne wiederholt Landungen durch, erhält Feedback zur Qualität des ausgewählten Landepunkts und lernt so im Laufe der Zeit, gute Landeplätze zu identifizieren.


Erkennung von “Foreign Object Debris”

Der zweite Anwendungsfall befindet sich im Flugzeugproduktionsprozess. Während der Flugzeugmontage werden unbeabsichtigt unerwünschte Gegenstände, sogenannte “foreign object debris” (FOD), im Flugzeug vergessen und führen später zu Schäden. Dies können beispielsweise Werkzeuge sein.

Was denken Sie über KI in der Luftfahrt? Schreiben Sie uns Ihre Meinung!

Automation
Dr. Felix Berteloot
Deputy Head of Automation
+49 40 248 595 143