Algorithmen sind laut Definition eine eindeutige Handlungsvorschrift zur Lösung eines Problems. Viel zu oft werden sie jedoch selbst zum Problem, beispielsweise wenn algorithmische Systeme Personengruppen Jobangebote vorenthalten oder wenn die Kreditwürdigkeit einer Person anhand einer Datengrundlage in automatisierten Systemen eingeschätzt wird. Diskriminierung durch algorithmische Systeme geschieht nämlich viel zu häufig und meistens sogar unbemerkt. Die Handreichung Automatisierte Entscheidungssysteme und Diskriminierung liefert wichtige Informationen, Fallbeispiele und Anwendungsfelder, um diese Form der Diskriminierung zu erkennen und zu bekämpfen.
Die Publikation nimmt Diskriminierung durch algorithmische Systeme in den Blick und legt dabei auch Lücken in der Gesetzeslage offen. Das Allgemeine Gleichbehandlungsgesetz (AGG) bietet nämlich keinen umfassenden Schutz gegen algorithmenbasierte Diskriminierung. Antidiskriminierungsstellen bräuchten deutlich mehr Rechte, um Betroffene besser zu unterstützen, da diese häufig selbst diese Art der Diskriminierung nicht erkennen und nachvollziehen können. Mit den aufgezeigten Fallbeispielen und einer Aufstellung der Anwendungsfelder von algorithmischen Systemen hilft die Handreichung dabei, Fälle von Diskriminierung durch automatisierte Entscheidungssysteme zu erkennen und zeigt auch Handlungsmöglichkeiten auf. Der Ratgeber wurde entwickelt für Beratungsstellen, ist aber gleichermaßen für Betroffene und Multiplikator*innen hilfreich.
Das Projekt AutoCheck, in dessen Rahmen die Publikation entwickelt wurde, wird seit 2021 von der Antidiskriminierungsstelle des Bundes gefördert. Seit Februar 2021 wurden Fallbeispiele recherchiert und Interviews mit Antidiskriminierungsberatungsstellen und Antidiskriminierungsexpert*innen geführt. Workshopkonzepte für Multiplikator*innen und die Publikation Automatisierte Entscheidungssysteme und Diskriminierung basieren auf dieser ausführlichen Recherche.
Anna-Clara Pentz
Spielkamp, Matthias/AW AlgorithmWatch gGmbH (Hrsg.). Automatisierte Entscheidungssysteme und Diskriminierung. Ursachen verstehen, Fälle erkennen, Betroffene unterstützen. Ein Ratgeber für Antidiskriminierungsstellen. Kostenlos verfügbar: https://algorithmwatch.org/de/autocheck/.