Herausragende Forschung zur Diskriminierung durch Algorithmische Entscheidungssysteme in der Berufsorientierung
In einer Zeit, in der künstliche Intelligenz und algorithmische Systeme immer mehr Einfluss auf unser Leben nehmen, wird die Frage nach ihrer Fairness und möglichen Diskriminierung immer wichtiger. Dr. Fabiola Rodriguez Garzon hat sich dieser brisanten und hochaktuellen Thematik in ihrer Dissertation gewidmet und eine bahnbrechende Analyse vorgelegt. Ihre Arbeit wurde nun mit dem Wissenschaftspreis der RPTU Kaiserslautern-Landau ausgezeichnet.
Das Buch
… mit dem Titel „Diskriminierung durch IT in der Berufsorientierung? Fairness-Auditierung der Webanwendung BERUFE Entdecker von der Bundesagentur für Arbeit“ (Nomos, 2024, 397 Seiten, broschiert, ISBN 978-3-7560-1499-6) untersucht die Webanwendung „BERUFE Entdecker“ der Bundesagentur für Arbeit. Diese Anwendung soll Jugendliche bei der Berufswahl unterstützen, doch wie fair und unvoreingenommen sind die algorithmischen Empfehlungen wirklich?
Dr. Garzon beleuchtet in ihrer Dissertation, wie algorithmische Systeme in der Berufsberatung potenziell diskriminierende Empfehlungen geben können. Ein Beispiel ist die Empfehlung von Berufen wie Informatik und Pflege, die möglicherweise entgegen den tatsächlichen Interessen der Jugendlichen vorgeschlagen werden. Ihre Forschung öffnet die „Blackbox“ der algorithmischen, datenbasierten Beratung und stellt die Frage, was eine faire digitale Beratung im Kontext des SGB III ausmacht und wann Diskriminierung vorliegt.
Erstmals wird der Sachverhalt des Risikos geschlechtsspezifischer Diskriminierung durch Bias im Algorithmus oder in den zugrunde liegenden Daten operationalisiert. Diese Arbeit dient als Blaupause für zukünftige Fairness-Auditierungen von IT-Systemen in der digitalen Berufsorientierung und setzt neue Maßstäbe für Transparenz und Gerechtigkeit in der algorithmischen Entscheidungsfindung.
