Zum Hauptinhalt springen

Wenn Algorithmen diskriminieren – Ratgeber von ‚AlgorithmWatch‘ ist online

Algorithmen sind laut Definition eine eindeutige Handlungsvorschrift zur Lösung eines Problems. Viel zu oft werden sie jedoch selbst zum Problem, beispielsweise wenn algorithmische Systeme Personengruppen Jobangebote vorenthalten oder wenn die Kreditwürdigkeit einer Person anhand einer Datengrundlage in automatisierten Systemen eingeschätzt wird. Diskriminierung durch algorithmische Systeme geschieht nämlich viel zu häufig und meistens sogar unbemerkt. Die Handreichung Automatisierte Entscheidungssysteme und Diskriminierung liefert wichtige Informationen, Fallbeispiele und Anwendungsfelder, um diese Form der Diskriminierung zu erkennen und zu bekämpfen. 

Die Publikation nimmt Diskriminierung durch algorithmische Systeme in den Blick und legt dabei auch Lücken in der Gesetzeslage offen. Das Allgemeine Gleichbehandlungsgesetz (AGG) bietet nämlich keinen umfassenden Schutz gegen algorithmenbasierte Diskriminierung. Antidiskriminierungsstellen bräuchten deutlich mehr Rechte, um Betroffene besser zu unterstützen, da diese häufig selbst diese Art der Diskriminierung nicht erkennen und nachvollziehen können. Mit den aufgezeigten Fallbeispielen und einer Aufstellung der Anwendungsfelder von algorithmischen Systemen hilft die Handreichung dabei, Fälle von Diskriminierung durch automatisierte Entscheidungssysteme zu erkennen und zeigt auch Handlungsmöglichkeiten auf. Der Ratgeber wurde entwickelt für Beratungsstellen, ist aber gleichermaßen für Betroffene und Multiplikator*innen hilfreich. 

Das Projekt AutoCheck, in dessen Rahmen die Publikation entwickelt wurde, wird seit 2021 von der Antidiskriminierungsstelle des Bundes gefördert. Seit Februar 2021 wurden Fallbeispiele recherchiert und Interviews mit Antidiskriminierungsberatungsstellen und Antidiskriminierungsexpert*innen geführt. Workshopkonzepte für Multiplikator*innen und die Publikation Automatisierte Entscheidungssysteme und Diskriminierung basieren auf dieser ausführlichen Recherche. 

Anna-Clara Pentz 


Spielkamp, Matthias/AW AlgorithmWatch gGmbH (Hrsg.). Automatisierte Entscheidungssysteme und Diskriminierung. Ursachen verstehen, Fälle erkennen, Betroffene unterstützen. Ein Ratgeber für Antidiskriminierungsstellen. Kostenlos verfügbar: https://algorithmwatch.org/de/autocheck/

 

 


Zurück

In merz suchen

Volltextsuche

Ausgabe nach Jahrgang

Beiträge nach Medien

Kontakt

Redaktion

merz | medien + erziehung
Kati Struckmeyer und Swenja Wütscher
Arnulfstraße 205
80634 München

+49 89 689 89 120
+49 89 689 89 111
merz@jff.de

Verlag

kopaed verlagsgmbh
Arnulfstr. 205
D-80634 München

+49 89 688 900 98
+49  89 689 19 12
www.kopaed.de
info@kopaed.de

Rechtsträger

JFF – Jugend Film Fernsehen e. V.
Arnulfstraße 205
80634 München

+49 68 989 0
+49 68 989 111
www.jff.de
jff@jff.de

Herausgeber*in

Kathrin Demmler | Prof. Dr. Bernd Schorb
JFF – Institut für Medienpädagogik in Forschung und Praxis

Kontaktformular

Kontaktformular