Wir haben alle drei Preisträger interviewt und sie nach ihrer Motivation, den Schwierigkeiten und Perspektiven ihrer Forschungsarbeiten gefragt. Lesen Sie die vollständigen Interviews in unserem Zukunftsmagazin Fraunhofer InnoVisions

Rezaul Karim vom Fraunhofer FIT gewann mit seiner Arbeit »Interpreting Black-Box Machine Learning Models with Decision Rules and Knowledge Graph Reasoning« den ersten Preis.

»Es ist bekannt, dass Entscheidungsfindungsprozesse bei Machine-Learning-Modellen nicht nachvollziehbar sind und das Ganze in einer Black-Box endet. Das kann in vielen Fällen problematisch sein. Datenverzerrungen oder fehlerhafte Trainingsdaten können bei KI-Systemen unerwünschtes oder auch diskriminierendes Verhalten produzieren. Gerade in Bereichen wie der Medizin, wo Künstliche Intelligenz erhebliche Auswirkungen auf das Leben von Menschen hat, kann das problematisch sein. Daher ist es umso wichtiger, gerade im Hinblick auf den wachsenden Einsatz von KI in allen Gesellschaftsbereichen, Vorhersagen und Entscheidungen nachvollziehbar zu machen.«

Seine Arbeit zielt darauf ab, die Interpretierbarkeit und Erklärbarkeit von undurchsichtigen Maschinenlernmodellen zu verbessern, ohne dabei die Vorhersagegenauigkeit signifikant zu beeinträchtigen.

Den zweiten Preis erzielte Franziska Boenisch vom Fraunhofer AISEC mit ihrer Dissertation »Secure and Private Machine Learning«.

»Machine-Learning-Modelle sollen korrekt funktionieren und nicht zu viele Informationen über ihre sensiblen Trainingsdaten preisgeben. Wir stellen aber fest, dass Entwickler ein besonders geringes Bewusstsein für Privatheit in Machine Learning haben und bei deren Implementierung auf Dienste von Drittanbietern vertrauen. Dies führt häufig zu Privatsphärerisiken. Unsere Forschung zeigt, dass besonders das so genannte Federated Learning große Risiken für die privaten Daten der Nutzer darstellt, da diese Daten direkt an die Firmen leaken können.«

Franziska Boenisch untersucht in ihrer Dissertation Sicherheits- und Datenschutzaspekte im Bereich des Maschinenlernens. Dabei werden Angriffsvektoren und Sicherheitslücken aufgezeigt und die Notwendigkeit einer sicheren und datenschutzgerechten Gestaltung von ML-Methoden hervorgehoben.

Stylianos Ioannis Mimilakis vom Fraunhofer IDMT wurde für seine Dissertation »Deep Learning-Based Music Source Separation« mit dem dritten preis im Jahr 2023 belohnt.

»In der Dissertation geht es grundsätzlich um datengesteuerte Methoden zur Trennung von Musikinstrumenten und insbesondere von Gruppen von Musikinstrumenten aus einer digitalen Musikaufnahme. In einem Karaokesystem beispielsweise kann so der Gesang abgetrennt und die Hintergrundmusik ausgegeben werden. Andere Anwendungen könnten die Wiederbelebung historischer Aufnahmen sein, die eine besondere Trennung der Musikquellen erfordern.«

Mimilakis' Arbeit untersucht das Problem der Musikquellentrennung mithilfe von Deep Learning-Methoden. Dabei werden die drei Aspekte Signalverarbeitung, neuronale Architektur und Signalrepräsentation betrachtet. Dabei untersucht er neue Algorithmen und Netzwerkarchitekturen zur Filterung und Trennung von Musikquellen.

Lesen Sie die vollständigen Interviews mit unseren drei Preisträger*innen auf Fraunhofer InnoVisions.

Zum Beitrag