IFAN

IFAN

IFAN – An Interaction Framework for Artificial and Natural Intelligence

Name des Teilnehmers: Edoardo Mosca

Beschreibung des IT-Forschungsprojekts: KI-gesteuerte NLP-Systeme sind mächtige Entscheidungsträger und stehen im Mittelpunkt der aktuellen technologischen Revolution in Wissenschaft, Wirtschaft und auch in den meisten Bereichen unseres Privatlebens. Die eingesetzten Machine-Learning-Modelle sind jedoch undurchsichtig, was ihren Einsatz trotz ihrer hohen Leistungsfähigkeit verhindert. Dies gilt insbesondere für High-Stakes-Anwendungen, bei denen große Folgen entstehen könnten, wenn diese Systeme nicht wie gewünscht funktionieren. Gleichzeitig sind automatisierte Agenten dem Menschen zwar in einigen spezifischen Aufgaben überlegen, doch fehlt ihnen noch immer ein Großteil der Verallgemeinerungs- und Schlussfolgerungsfähigkeiten, über die der Mensch verfügt.

Die Arbeit an einer starken KI und genaueren NLP-Modellen ist das Hauptaugenmerk von Wissenschaft und Industrie. Dieses Projekt gibt dieses Ideal auf und arbeitet stattdessen daran, die verfügbaren Technologien mit menschlicher Unterstützung zu kombinieren, um stärkere Entscheidungsträger zu schaffen. Wenn es um den Einsatz von KI-Systemen in der Realität geht, sind wir der Meinung, dass die Befähigung der menschlichen Aufsicht ein viel größerer Vorteil ist, als ein zusätzliches 1% Leistung aus den ohnehin schon komplexen Modellen herauszuquetschen. Dieser Paradigmenwechsel kann eine treibende Kraft für die breitere Einführung und Akzeptanz dieser neuen Technologien in realen Anwendungen, der Industrie und der Gesellschaft sein.

Unser Ziel ist es, eine modulare Schnittstelle zu entwickeln, die eine kontinuierliche Echtzeit-Interaktion zwischen einem NLP-System und menschlichen Akteuren ermöglicht. Während das System ein beliebiges maschinelles Lernmodell sein kann, das für die jeweilige Aufgabe geeignet ist, wird die Interaktion mit den Stakeholdern durch die neuesten Explainable AI-Techniken gesteuert. Die vom System gelieferten Erklärungen können von Menschen auf benutzerfreundliche Weise bearbeitet und in das System zurückgespeist werden, um dessen Argumentation anzupassen und das Ergebnis zu beeinflussen. Mehrere Interessengruppen können an dem Prozess teilnehmen, da (1) ihre unterschiedlichen Fachkenntnisse berücksichtigt werden und (2) ihr Einfluss auf den NLP-System berücksichtigt wird, wodurch die automatische Entscheidungsfindung zu einem transparenten und demokratischen Prozess wird.

Software Campus-Partner: TU München & Holtzbrinck Publishing Group

Umsetzungszeitraum: 01.01.2022 – 31.12.2023