Negativfaktor Frau
Das AMS will alle Arbeitslosen von Software bewerten lassen – für Unbehagen sorgt speziell, dass Frauen automatisch eine schlechtere Bewertung bekommen.
Die Digitalisierung beeinflusst immer mehr Bereiche unseres Lebens – mit wem wir auf ein Date gehen, welche Produkte wir kaufen, und bald auch: wer eine teure Weiterbildung beim Arbeitsmarktservice (AMS) bekommt und wer nicht.
Zunehmend lassen öffentliche Einrichtungen ihre Daten auswerten und Prognosen über Bürger erstellen. Aktuell macht das Arbeitsmarktservice Schlagzeilen. „AMS bewertet Arbeitslose künftig per Algorithmus“, schrieb der „Standard“. Das AMS ließ Forscher die eigenen Daten auswerten und ein statistisches Modell erstellen, mit dem es die Arbeitsmarktchancen für jeden Einzelnen berechnen kann. Mithilfe der Kalkulation werden dann Ressourcen verteilt.
Wer im Jahr 2019 arbeitslos wird, für den ermittelt das AMS automatisch eine Zahl, wie gut oder schlecht die Chancen am Arbeitsmarkt sind. Jeder Arbeitslose wird in eine von drei Gruppen eingeteilt, ab 2020 soll diese Einteilung Konsequenzen haben: Kommt die Software zum Schluss, dass man der stärksten Gruppe angehört, wird man eher wenig Förderung bekommen – da man vermutlich auch ohne Hilfe einen Job findet. Wer in der Gruppe mit mittleren Chancen am Arbeitsmarkt fällt, kriegt leichter teure Fachausbildungen – hier wird viel Geld investiert. Und wessen Chancen nur in der untersten Gruppe liegen, kriegt tendenziell günstige Kurse. Wobei AMS-Berater einzelne Einstufungen ändern dürfen.
Ziel der Kalkulation ist, vor allem jenen Jobsuchenden teure Kurse zu zahlen, die ansatzweise Chancen am Arbeitsmarkt haben. Kein Wunder, dass genau auf die Ressourcen geblickt wird. Das AMS steht unter Effizienzdruck, und die aktuelle Regierung kürzt das jährliche Budget sogar. Trotzdem wirft diese Prognose schwerwiegende Fragen auf – allem voran: Werden Frauen im neuen System benachteiligt?
Das AMS hat die Synthesis Forschung GmbH beauftragt, den neuen Algorithmus zu entwerfen. Auf 16 Seiten wurde nun die Methode erklärt – doch diese Erklärung wirft mehr Fragen als Antworten auf. Positiv fließt in die Bewertung von Arbeitslosen ein, wenn man EU-Bürger ist oder über höhere Ausbildung verfügt. Negativ wird beispielsweise bewertet, wenn man über 50 ist oder nicht aus der EU stammt – auch ist es ein Negativfaktor, eine Frau zu sein.
Im Dokument steht: „– 0,14 x GESCHLECHT_WEIBLICH“. Jede Frau bekommt automatisch den negativen Faktor von minus 0,14 angerechnet. Sind ein männlicher und eine weibliche Arbeitsuchende in allen Aspekten gleich (gleiches Alter, gleiche Ausbildung, gleiche Berufserfahrung), kriegt die Frau trotzdem eine schlechtere Prognose.
Zu Recht betont das AMS gegenüber profil: Es ist nicht schuld an dieser gesellschaftlichen Benachteiligung. Die Zahlen des AMS spiegeln anscheinend wider, dass es Frauen am Arbeitsmarkt eine Spur schwerer haben. „Wir kämpfen seit unserer Gründung gegen Diskriminierung“, sagt AMS-Chef Johannes Kopf – und weist darauf hin, dass man die dezidierte Vorgabe hat, 50 Prozent aller Mittel für die Förderung von Frauen einzusetzen (obwohl Frauen nur 43 Prozent der Arbeitslosen ausmachen).
In den Vorgaben des AMS ist die Förderung von Frauen zwar großgeschrieben, trotzdem ist es rechnerisch möglich, dass der Algorithmus diesen Zielen widerspricht – und Frauen es schlimmstenfalls eine Spur schwieriger haben, teure Weiterbildung zu erhalten. Solche ethischen Bedenken tauchen permanent auf, wenn der Staat Algorithmen für wichtige Entscheidungen nutzt. Die USA sind ein Extrembeispiel: Dort setzt die Justiz sogar Software ein, die Richtern bei der Entscheidung helfen soll, welche Häftlinge auf Bewährung freikommen. Die Software sagt vorher, wer in Zukunft eine schwere Straftat begehen wird. Doch solche Algorithmen sind umstritten – auch weil sich zeigt, dass Afroamerikaner deutlich strenger bewertet werden.
Algorithmen bergen die Gefahr, gesellschaftliche Ungleichheit einzuzementieren. Laut den Daten haben beispielsweise Frauen schlechtere Chancen am Arbeitsmarkt – doch wie gerecht ist es, ihnen ein schlechteres Ranking zu geben und auch die Ressourcen danach zu verteilen?
Derzeit stellt sich die Frage, ob der AMS-Algorithmus in der Praxis einzelne Bevölkerungsgruppen wie Frauen diskriminieren wird – wir wissen es genau genommen nicht. Hierzu fehlt bisher eine genaue wissenschaftliche Evaluation. Der Statistiker Erich Neuwirth meint: Es wäre sinnvoll, noch nähere Tests mit den Daten des AMS zu machen. „Die bisher veröffentlichten Unterlagen sind zu wenig für eine Bewertung“, sagt Neuwirth, pensionierter Professor der Universität Wien. Wenn das AMS Sorgen ausräumen will, kann es zwei Schritte setzen: Unabhängige Wissenschafter (die nicht an dem Projekt beteiligt waren) zu einer Evaluierung einladen – um den Algorithmus auf unbeabsichtigte Diskriminierung zu untersuchen. Zweitens sollte auch die Anwendung im Alltag evaluiert werden: Wie sehr beeinflussen solche Zahlen das Verhalten von AMS-Mitarbeitern?
Das Arbeitsmarktservice ist nur der Anfang: Wir können bereits beobachten, dass öffentliche Einrichtungen zunehmend – auch aus Kostengründen – ihre Daten durchleuchten und Bürger statistisch bewerten lassen. Da ist es nur fair, wenn auch diese Einrichtungen stärker durchleuchtet werden.
Dieser Text erschien zuerst im Nachrichtenmagazin profil (Ausgabe vom 21.10.2018).
View Comments
Ich finde an den drei Beispielkomentaren nichts verwerfliches.
Für freie Meinung und gegen Neusprech!!!
Ich verstehe das Problem mit den Beispiel-Kommentaren leider auch nicht. Das Problem ist anscheinend doch eher der Inhalt, nicht die Form. Wären im Kommentar #1 böse Polizisten gemeint gewesen, wäre wahrscheinlich alles in Ordnung.
Spannender finde ich folgende Frage: Welcher der folgenden Kommentare ist denn nun ein Hass-Kommentar?
a) Asylanten sollten sofort, ohne wenn und aber, wieder abgeschoben werden!
b) Dem Polizisten, der mit Pfefferspray auf die Demonstranten losgegangen ist, sollte man selbst mal eine ordentliche Ladung ins Gesicht verpassen.
c) All cops are bastards!
Ich denke, dass das Einstellen eines einzelnen Community-Managers, der nach seinen eigenen bzw. nach redaktionell vorgegebenen Moralvorstellungen die Nutzerkommentare zensiert, nicht der richtige Weg sein kann. Zu empfehlen wäre da eher, auf eine andere Technologie zurückzugreifen, die eine Regulierung durch die Community selbst ermöglicht - quasi durch Mehrheitsentscheid. Ein gutes Beispiel hierfür liefert momentan das Portal YouTube, in dem die Möglichkeit besteht, jeden einzelnen Kommentar als positiv oder negativ zu bewerten. Ab einer gewissen Anzahl negativer Bewertungen wird ein Kommentar standardmäßig ausgeblendet (und nicht gelöscht!) - man muss ihn explizit wieder einblenden, falls man neugierig darauf sein sollte, warum er geschmäht wurde. Nach meiner Beobachtung funktioniert dieses System recht gut und wird von der YT-Nutzergemeinde durchaus gerne in Anspruch genommen. Außerdem stellt es einen Kompromiss zwischen Zensurbefürwortern und -gegnern dar.
Bei vielem im Artikel möchte ich zustimmen, aber eine Befürchtung bleibt: Zu viel Kontrolle. Zum Beispiel Foren mit einer Vorab-Moderation finde ich persönlich unbenutzbar. Auch zu strenge Nettiquette, wie Spiegel-Online-Foren, wo wohl das siezen gefordert wird (Leute, wirklich?) sind ein Hinderungsgrund. Und eine Zwangsregistrierung erst Recht. Dafür muss man die Seite schon sehr oft besuchen, dass sich das lohnt. Um gelegentlich mal einen interessanten Blogartikel durch einen Tipp zu ergänzen werde ich mir bestimmt keinen Account anlegen.
Hi, mich beschleicht oft das Gefühl Internetforen werden zum Abreagieren verwendet. In der "offline" Welt leiden viele Menschen an Harmoniesucht. Man möchte Freunde nicht verunsichern oder gar verärgern. Also spielt man eitle Wonne, geht nach Hause und lässt Dampf ab beim Beschimpfen von Fremden.
Andererseitsss sind Regeln wie: „Dont feed the Troll“ schon recht alt, werden aber nicht immer befolgt. Hier müssen die Nutzer noch erwachsen werden. Youtube bietet dafür mit dem Ausblenden von stark negativ bewerteten Kommentaren eine Hilfe an. Bei einigen Themen wie Sexismus, Ausländerhass etc. ist ignorieren nicht ausreichend. Hier müssen die Nutzer die nötigen Werkzeuge erhalten um solch einen Hassposter zu melden, auszublenden. An einer Moderation kommt man dann natürlich nicht mehr vorbei. Moderatoren lassen sich aus der Community rekrutieren.
Guter Artikel, alles Gute beim Buch!
Der Artikel spricht mir aus der Seele. Besonders gefällt mir, dass das Problem von Hasskommentaren mal thematisiert wird, ohne einer Klarnamenpflicht das Wort zu reden. Denn für ano- oder pseudonymes Posten gibt es diverse Gründe, viele davon völlig legitim. Außerdem löst eine Klarnamenpflicht, wie Sie das ja schon im vorangehenden Beitrag dargelegt haben, das Problem überhaupt nicht. Das ist in dem Zusammenhang einfach eine Scheindebatte.
Sehr wertvoll fand ich auch den Hinweis darauf, dass es eine wichtige Rolle spielt, ob und wie die Autor_innen des kommentierten Artikels sich an der Diskussion beteiligen.
In einem Punkt greift mir der Artikel aber etwas zu kurz, nämlich wenn das Problem auf die Form der Kommentare reduziert wird, unabhängig vom Inhalt. Die Form ist sicherlich ein großes Problem, und die meisten Meinungen kann man auch ohne hate speech vortragen. Es gibt aber auch Meinungen, die an sich hasserfüllt sind. Um ein besonders klares Beispiel zu nehmen: Wenn jemand der Meinung ist, alle Homosexuellen sollten getötet werden - dann kann er_sie das so sachlich und unaufgeregt formulieren wie nur möglich (also wie ich das in dem Beispiel grade getan habe), es bleibt eine zutiefst hasserfüllte Botschaft.
Ich bin also der Meinung, dass Foren und Kommentarspalten keineswegs allen Meinungen Platz einräumen sollten, genausowenig wie allen Formulierungen. (Das bezieht sich natürlich auf Portale mit dem entsprechenden Anspruch; pi oder Krone haben halt das Publikum, das zum redaktionellen Inhalt passt.) Nicht alles, was generell gesagt werden darf - strafrechtlich sind der Meinungsfreiheit zum Glück nur seeehr weite Grenzen gesetzt - muss auch überall gesagt werden dürfen.
Problematisch ist natürlich die Grenzziehung, wofür es sicher kein Patentrezept gibt. Da ist auch die Selbstdisziplin von Blogger_innen und Redaktionen gefragt; positive und kritische Kommentare sollten unbedingt nach den gleichen Kriterien behandelt werden. Auf jeden Fall bin ich für größtmögliche Transparenz, d.h. es sollte so gut wie möglich allgemein dargelegt werden, was akzeptabel in Kommentaren ist und was nicht. Im Sinne der Transparenz bin ich auch eher dafür, Hasskommentare nachträglich zu löschen, als Kommentare von vornherein erst nach Prüfung freizuschalten. Dann können User_innen nämlich ab und an sehen, was gelöscht wird und was nicht.
Eine Halde für gelöschte Kommentare nach Vorbild von hatr.org fände ich auch gut. Dann kann man nämlich sehen, ob tatsächlich nur Hasskommentare gelöscht werden oder generell missliebige Meinungen und sanfte Polemiken. Außerdem bleibt so die Freakshow an einem sicheren Ort erhalten. Daraus lassen sich ja auch wichtige Erkenntnisse über die Verbreitung bestimmter Formen von Hass gewinnen.
I want to to thank you for this great read!! I definitely enjoyed every bit of it.
I have you book marked to check out new things you post…
Schön auf den Punkte gebracht kann man da nur sagen, ich selbst arbeite in einer Werbeagentur in Klagenfurt und wir stellen zum Teil auch Printmedien her. Da finde ich diesen Artikel sehr treffend, da ich auch schon oft sowas zu hören bekommen habe.
Dann werde ich mal etwas Feenstaub auf den Bildschirm werfen um etwas schönes zu zaubern. =)
You really make it seem so easy with your presentation
but I find this topic to be really something which I think I would never
understand. It seems too complicated and extremely broad for me.
I'm looking forward for your next post, I will try to get the hang of it!
Ich glaube auch das ist Geschmackssache, da gibt es sicher einige Pros und Contras ;) Ich persönlich bevorzuge die guten alten Bücher, aber in der jüngeren Generation scheinen eBooks voll im Trend zu liegen, hier ein Beispiel. LG