Dieser starke Fokus auf die Gefahren durch Algorithmen ist stark durch die Beobachtung der Entwicklungen in den USA geprägt, wo ein Beispiel nach dem anderen aufzeigt, dass Algorithmen zu sozialer Ungleichheit und Diskriminierung beitragen können. Doch in Deutschland existieren viele dieser automatisierten Systeme noch nicht. Und wir können Entwicklungen aus anderen Ländern nicht einfach auf Deutschland übertragen.
Denn, so unsere These: Algorithmen treffen immer auf einen gesellschaftlichen Kontext. In dieser Analyse blicken wir deshalb auf die ganz spezifischen Herausforderungen hier vor Ort.
Mit Beispielen aus den Bereichen Bildung, Arbeit und staatliche Leistungen zeigen wir schlaglichtartig, dass die Risiken von Algorithmen oftmals bereits darin stecken, für welchen Zweck ein datenbasiertes System entwickelt und eingesetzt wird: Die Kontrolle von Mitarbeiter*innen, die Automatisierung menschlicher Handlungen, die einseitige Allokation von Beratungsleistungen an gut vermittelbare Arbeitssuchende. Oft treibt der Wunsch nach Effizienz und Einsparung von Ressourcen die Entwicklung der Systeme voran. Und genau dieses Ziel ist fragwürdig, wenn Chancengerechtigkeit und gesellschaftliche Teilhabe von den algorithmischen Systemen berührt werden.