Name der Teilnehmerin: Lisa Jöckel
Beschreibung des IT-Forschungsprojekts: Auf künstlicher Intelligenz (KI) basierende Komponenten werden zunehmend in unterschiedlichen Bereichen eingesetzt, da sie Möglichkeiten bieten, die über traditionelle Software hinausgehen. Als Teilgebiet der KI liegt der Fokus hier auf Machine Learning (ML). Basierend auf Daten wird durch Methoden des ML eine Beziehung zwischen Eingabe und Ausgabe der Komponenten gewonnen. Dies geschieht mittels eines Lernprozesses auf Datenbeispielen für das gewünschte Verhalten und wird anhand von Testdaten überprüft. Insbesondere bei autonomen Systemen wird KI zur Perzeption eingesetzt, da diese Systeme in offenen Kontexten operieren und somit ihre Umgebung wahrnehmen müssen, um situationsbedingt reagieren zu können. Aber auch zur Unterstützung des Menschen bei Aufgaben mit hoher Komplexität kann KI einen Mehrwert bieten. Im industriellen Bereich kann KI beispielsweise bei der Produktionsplanung, Qualitätssicherung, Transportplanung/-überwachung oder Verwendung von Maschinen unterstützen. Ein Fehlverhalten der KI kann allerdings mit hohen finanziellen Kosten oder gar der Gefährdung von Personen einhergehen. Dies stellt ein Hemmnis für den Einsatz von KI und damit einhergehenden Innovationschancen dar.
Um die nötige Akzeptanz für einen Einsatz von KI zu schaffen, werden Verfahren zur Absicherung und Zertifizierung entwickelt. Ein wichtiger Aspekt dabei ist ein Testen auf Zuverlässigkeit der KI-basierten Komponenten. Hierbei stellt der datenbasierte Lernprozess bei ML eine Herausforderung dar, da die intendierte Funktionalität nur für einen Ausschnitt der Realität bekannt ist. Daher ist die Qualität der Testdaten mit ausschlaggebend für eine aussagekräftige Überprüfung der Zuverlässigkeit.
Im Rahmen des Projekts soll ein Framework für die qualitative Bewertung und Verbesserung von Testdaten entstehen. Die Resultate tragen zu einem Nachweis der Zuverlässigkeit von KI-basierten Komponenten und möglicher Zertifizierung bei, was zu einer breiteren Einsatzfähigkeit von KI insbesondere in sicherheitskritischen Bereichen führen soll.
Software Campus-Partner: Fraunhofer IESE, TRUMPF
Umsetzungszeitraum: 01.03.2021 – 31.08.2022