15:00 - 15:30
German
Talk
Everyone
Jobchancen adé: Wenn der Computer "nein" sagt

Short thesis

Seit Anfang 2019 teilt in Österreich ein Algorithmus alle Jobsuchenden in Kategorien ein. Warum dadurch mindestens 50.000 Menschen auf der Strecke bleiben und wie das Programm des Arbeitsmarktservices (AMS) Frauen, Migranten, Kranke und Alte diskriminiert.

Description

Das österreichische AMS will mit modernen Mitteln die Effizienz steigern, doch verbaut mit seiner Umsetzung Tausenden Menschen ihre Zukunftschancen. Software teilt künftig Arbeitssuchende in drei Gruppen ein: Hohe Chancen, mittlere Chancen, niedrige Chancen. Wer in letzterer Kategorie landet, kriegt keine teuren Zusatzmaßnahmen, weil seine Arbeitsmarktchancen nur gering sind.

Wer eine Frau ist, über 50, Ausländer aus der Nicht-EU oder gesundheitlich beeinträchtigt bekommt vom System von vornherein Abzüge. Negativ-Punkte gibt es außerdem für Betreuungspflichten - allerdings nur, wenn man eine Frau ist. Diskriminierung, die am Arbeitsmarkt existiert, wird somit direkt in das Computerprogramm reingeschrieben und sorgt damit laut Informatikern in einer "Feedback Loop" für noch mehr Diskriminierung dieser Personengruppen.

Das AMS hat zwar eine Art Ergebnisbericht veröffentlicht, aber echte Transparenz herrscht nicht. Statt einer breiten Diskussion, folgen Tests mit Echtzeitdaten aus dem "Data Warehouse". Experten aus den Bereichen Informatik, Sozial- und Wirtschaftswissenschaften kritisieren die Entwicklung massiv.

Es ist nicht das erste Beispiel dafür, wie Algorithmen diskriminieren und Menschenleben gefährden. Doch es ist eines der ersten Beispiele aus Europa, das plakativ zeigt, was dabei schiefgehen kann. Ich möchte euch meine journalistische Tiefenrecherche mit Gesprächen mit Forschern aus verschiedenen Fachbereichen dazu präsentieren.

Speakers