Werbung
Ihre Werbung Banner
Werbung Fotos für die Pressefreiheit von Reporter ohne Grenzen
Werbung zu teilhabegesetz.org
Springe zum Inhalt

Diskriminierungsrisiken durch Algorithmen

Emoji Rollinutzer mit Laptop
Emoji Rollinutzer mit Laptop
Foto:

BERLIN (kobinet) Die Antidiskriminierungsstelle des Bundes hat heute eine Studie vorgestellt, welche belegt, dass durch Algorithmen erhebliche Diskriminierungsrisiken entstehen und fordert, Nachweismöglichkeiten für Betroffene zu verbessern.

Algorithmen und umfangreiche Datensätze bergen erhebliche Diskriminierungspotentiale im Arbeitsleben, bei der Vergabe von Wohnraum oder in der Kreditwirtschaft, bei der Berechnung von Versicherungstarifen, in der Medizin und bei der Polizei. Darauf weist eine aktuelle Studie hin, die vom Karlsruher Institut für Technikfolgenabschätzung und Systemanalyse (ITAS) mit finanzieller Förderung der Antidiskriminierungsstelle des Bundes erstellt wurde.

Die Differenzierung von Personengruppen, wie sie von Algorithmen im Hinblick auf die unterschiedlichsten Informationen, Produkte, Dienste, Entgelt oder Positionen vorgenommen werden, kann dabei insbesondere dann problematisch sein, wenn sie direkt oder indirekt an gesetzlich verbotene Gründe wie das Alter, eine Behinderung, die ethnische Herkunft, das Geschlecht die Religion oder Weltanschauung oder die sexuelle Identität anknüpft.

Anhand von zahlreichen Fallbeispielen zeigt die Studie nicht nur technische und gesellschaftliche Ursachen von Diskriminierungsmöglichkeiten, sondern vor allem auch die daraus resultierenden Risiken auf. Der Autor Dr. Carsten Orwat diskutiert dabei auch den Bedarf an Reformen im Antidiskriminierungs- und Datenschutzrecht und die Notwendigkeit gesellschaftlicher Abwägungen, welche algorithmen- und datenbasierten Differenzierungen in einer Gesellschaft für akzeptabel gehalten werden können.

„Die Studie zeigt klar: Es gibt erhebliche Diskriminierungsrisiken; sie bestehen bereits heute und in zahlreichen Lebensbereichen“, sagt der kommissarische Leiter der Antidiskriminierungsstelle, Bernhard Franke. „Die gute Nachricht ist: Das Allgemeine Gleichbehandlungsgesetz (AGG) gibt mit seinen analog wie digital geltenden Diskriminierungsverboten bereits die richtigen Antworten. Wir brauchen also kein gänzlich neues Recht, sondern müssen das bestehende zukunftsfest machen.“

Die Studie benennt konkrete Regulierungsempfehlungen wie ein Einsichtsrecht in Algorithmen für Antidiskriminierungsstellen und die Etablierung so genannter Algorithmen-Audits, um die Identifizierung und den Nachweis algorithmenbasierter Diskriminierungen zu vereinfachen und die Rechte Betroffener zu stärken. Dazu gehört auch die Schaffung präventiver Angebote wie beispielsweise die Schulung von Personal- bzw. IT-Verantwortlichen. Auch sollten Unternehmen und Verwaltungen, die Algorithmen in rechtlich sensiblen Bereichen nutzen, konkrete Dokumentationspflichten auferlegt werden, um Diskriminierungen zu vermeiden.

Der Text dieser Studie kann unter diesem Link von den Internetseiten der Antidiskriminierungstelle des Bundes als PDF-Datei herunter geladen werden.