Wissenschaftspreis für Dr. Fabiola Rodriguez Garzon

26.07.2024

Wissenschaftspreis für Dr. Fabiola Rodriguez Garzon

Wissenschaftspreis für Dr. Fabiola Rodriguez Garzon

Herausragende Forschung zur Diskriminierung durch Algorithmische Entscheidungssysteme in der Berufsorientierung

In einer Zeit, in der künstliche Intelligenz und algorithmische Systeme immer mehr Einfluss auf unser Leben nehmen, wird die Frage nach ihrer Fairness und möglichen Diskriminierung immer wichtiger. Dr. Fabiola Rodriguez Garzon hat sich dieser brisanten und hochaktuellen Thematik in ihrer Dissertation gewidmet und eine bahnbrechende Analyse vorgelegt. Ihre Arbeit wurde nun mit dem Wissenschaftspreis der RPTU Kaiserslautern-Landau ausgezeichnet.

Das Buch

… mit dem Titel „Diskriminierung durch IT in der Berufsorientierung? Fairness-Auditierung der Webanwendung BERUFE Entdecker von der Bundesagentur für Arbeit“ (Nomos, 2024, 397 Seiten, broschiert, ISBN 978-3-7560-1499-6) untersucht die Webanwendung „BERUFE Entdecker“ der Bundesagentur für Arbeit. Diese Anwendung soll Jugendliche bei der Berufswahl unterstützen, doch wie fair und unvoreingenommen sind die algorithmischen Empfehlungen wirklich?

Dr. Garzon beleuchtet in ihrer Dissertation, wie algorithmische Systeme in der Berufsberatung potenziell diskriminierende Empfehlungen geben können. Ein Beispiel ist die Empfehlung von Berufen wie Informatik und Pflege, die möglicherweise entgegen den tatsächlichen Interessen der Jugendlichen vorgeschlagen werden. Ihre Forschung öffnet die „Blackbox“ der algorithmischen, datenbasierten Beratung und stellt die Frage, was eine faire digitale Beratung im Kontext des SGB III ausmacht und wann Diskriminierung vorliegt.

Erstmals wird der Sachverhalt des Risikos geschlechtsspezifischer Diskriminierung durch Bias im Algorithmus oder in den zugrunde liegenden Daten operationalisiert. Diese Arbeit dient als Blaupause für zukünftige Fairness-Auditierungen von IT-Systemen in der digitalen Berufsorientierung und setzt neue Maßstäbe für Transparenz und Gerechtigkeit in der algorithmischen Entscheidungsfindung.

Wir gratulieren Dr. Fabiola Rodriguez Garzon herzlich zu dieser verdienten Auszeichnung. Ihre Forschung ist nicht nur ein wertvoller Beitrag zur Wissenschaft, sondern auch ein wichtiger Schritt in Richtung einer faireren und transparenteren Nutzung von algorithmischen Entscheidungssystemen in der Berufsorientierung. Weitere Informationen zur Dissertation und Bestellungsmöglichkeiten finden Sie auf unserer Website.

Für mehr Informationen zum Thema algorithmische Diskriminierung und Fairness in IT-Systemen besuchen Sie auch die Antidiskriminierungsstelle des Bundes.