View profile

Der Bias mit dem Bias

Der Bias mit dem Bias
By Katharina Brunner • Issue #13 • View online

Punktabzug für Frauen, Alte, Menschen von außerhalb der EU: In Österreich sollen sich Mitarbende des Arbeitsmarktservices (AMS) bald von einem Algorithmus bei ihrer Arbeit helfen lassen. Ab Juli 2020 teilt ein Algorithmus Arbeitslose in eine von drei Gruppen ein: hohe Chancen, von alleine wieder eine Erwerbsarbeit zu finden, mittlere und geringe Chancen.
Das Modell funktioniert über ein Punktesystem:
  • Über 50 Jahre alt: -0,7 Punkte
  • Gesundheitliche Probleme: -0,67 Punkte
  • Herkunftsland außerhalb der EU: -0,67 Punkte
  • Frau: -0,14 Punkte
  • Betreuuungspflichten: -0,15 Punkte
Natürlich können diese Lebensumstände tatsächlich dazu führen, dass es schwieriger ist eine Arbeitsstelle zu finden. Doch der Algorithmus des österreichischen Arbeitsamtes verstärkt dieses Problem nun noch, indem die Diskriminierung direkt ins System eingebaut wird: Denn wem schlechtere Chancen zugestanden wird, bekommt auch weniger Förderungen.
Wenn solche Benachteiligungen vermeintlich neutrale technische Systeme unterwandern, hat sich der Begriff des Bias eingebürgert. Doch warum nennen wir diesen Bias, diese Verzerrung, diese Voreingenommenheit nicht beim Namen? Kinjal Dave vom Data and Society Research Institute schreibt:
Why is one far more likely to hear about “algorithmic bias” rather than “algorithmic racism” or “algorithmic sexism,” even when we mean the latter?
Mehr dazu in Daves Text Systemic Algorithmic Harms.
Nina Galla
Kurzes Lesestück darüber, warum "Bias" bei einzelnen Menschen nicht das gleiche ist, wie fortgeführter Bias in Institutionen und wie biased KI Diskriminierung und Machtverhältnisse festigen kann: https://t.co/zdqaGOsPg1
9:28 PM - 24 Feb 2020
Der österreichische AMS-Algorithmus ist schon vor einiger Zeit entwickelt worden, die neue türkis-grüne Regierung will das Thema nochmal angehen: “Evaluierung, Adaptierung und Weiterentwicklung des AMS-Algorithmus” heißt es im Koalitionsvertrag (S. 259). Die dafür notwendige Analyse soll jedoch die Firma durchgeführen, die den AMS-Algorithmus auch entwickelt hat. Hello Befangenheit! Erinnert sich noch jemand an die Finanzkrise und die Rolle der Ratingagenturen, die ihre eigenen Produkte benotet haben? A++ Idee!
Mehr dazu:
Die Journalistin Barbara Wimmer begleitet für futurezone die Einführung, Entwicklung und Diskussion des AMS-Algorithmus sehr genau. Es gibt eine ganze Reihe an Texten. Zu Teil 1.
In Polen gab es auch Versuche mit einem ähnlichen Algorithmus. Dort hat das Verfassungsgericht den Einsatz gestoppt.
Chris Kœver
1,8 M für die Entwicklung eines Algorithmus, der Bearbeiter:innen bei der Kategorisierung von Arbeitssuchenden unterstützen soll und dabei offen gegen Mütter und Migrant:innen diskriminiert. Deswegen brauchen wir EU-weite Regeln, die klare Auflagen für solche Systeme machen https://t.co/E5e0VySYcn
9:04 AM - 25 Feb 2020
Anderes:
Be a Lady They Said on Vimeo
Be a Lady They Said on Vimeo
“The engine of progress is change, and change is unlikely to happen if you only hire people who perpetuate the status quo”: How the Best Managers Identify and Develop Talent
Did you enjoy this issue?
Katharina Brunner

Interessiere mich für das Weltgeschehen.

If you don't want these updates anymore, please unsubscribe here.
If you were forwarded this newsletter and you like it, you can subscribe here.
Powered by Revue