Aktion Mensch entwickelt KI-Anwendung ABLE gegen diskriminierende Sprache

Bonn (kobinet) KI-Chatbots kommen bereits in vielen Bereichen zum Einsatz – in Online-Shops, bei Behörden oder im Umgang mit Kund*innen. Ihr Ziel: Einfache Anliegen schnell und unkompliziert bearbeiten sowie digitale Angebote für alle Nutzer*innen zugänglicher machen. Doch für viele Menschen mit Behinderung gilt das so noch nicht. Sie stoßen bei der Nutzung von Chatbots häufig auf unverständliche oder sogar diskriminierende Sprache. Um diesem Missstand entgegenzuwirken, hat die Aktion Mensch gemeinsam mit der Hochschule Bielefeld und dem KI-Spezialisten wonk.ai die KI-Anwendung ABLE (Ableism Bias Language Evaluation, deutsch: Überprüfung von Sprache auf Ableismus* und Vorurteile) entwickelt, wie es in einer Presseinformation der Aktion Mensch heißt.

Mit ihr lässt sich nach Informationen der Aktion Mensch automatisiert analysieren, wie Chatbots mit Menschen mit Behinderung kommunizieren. Denn viele bedienen sich nicht nur schwer verständlicher Sprache, sondern auch stereotyper oder gar verletzender Formulierungen – und schaffen damit neue Barrieren, anstatt digitale Teilhabe zu ermöglichen. Mit der Anwendung wird diese Problematik nun gezielt angegangen: Künftig steht sie interessierten Unternehmen zur Prüfung ihrer Chatbots zur Verfügung.

Von KI zu KI: Automatisierte Analyse von Chatbot-Antworten

ABLE führt eine Vielzahl automatisierter Gespräche mit Chatbots und analysiert deren Antworten auf diskriminierende, nicht-inklusive Inhalte hin. Ausgangspunkt ist ein speziell entwickelter Fragenkatalog, der stereotype, unverständliche oder ausschließende Reaktionen herausfiltert. Die Chatbot-Antworten werden nach einheitlichen Kriterien bewertet – etwa hinsichtlich ihrer Verständlichkeit, faktischen Richtigkeit und Aktualität. Alle Dialoge werden dokumentiert und für Expert*innen über eine Weboberfläche zugänglich gemacht. Ziel ist es, Muster und neue Formen von sprachlicher Diskriminierung frühzeitig zu erkennen und digitale Barrieren so systematisch abzubauen.

„Unsere Anwendung macht sichtbar, wo und auch wie KI-Chatbots diskriminierende Sprache verwenden – und schafft damit eine wichtige Grundlage, um digitale Kommunikation inklusiver zu gestalten“, kommentiert Christina Marx, Sprecherin der Aktion Mensch.

Menschen mit Behinderung gestalten ABLE aktiv mit

Rund 80 Menschen mit Behinderung, darunter Mitglieder der Teilhabe-Community der Aktion Mensch**, haben sich im Vorfeld in partizipativen Workshops beteiligt, um die Evaluationsrichtlinien weiterzuentwickeln und Chatbots besser für diskriminierende Fragestellungen zu sensibilisieren. Dabei brachten sie ihre persönlichen Perspektiven auf diskriminierende Sprache ein und wirkten an der Entwicklung von Prompts mit, die später in der KI-Anwendung ABLE umgesetzt wurden, teilte die Aktion Mensch mit.

Besonders häufig sei den Workshop-Teilnehmenden die Reproduktion von Stereotypen aufgefallen – etwa die Darstellung von Menschen mit Behinderung als Superheld*innen mit besonderen Fähigkeiten. Ein*e Teilnehmer*in sagt dazu: „Formulierungen wie ‚Trotz seiner Behinderung hat er studiert‘ stellen normale Lebensentscheidungen als außergewöhnlich dar. Stattdessen sollte einfach beschrieben werden: Eine Person studiert und hat eine Behinderung“. Weitere Kritikpunkte an den Chatbots betrafen sachliche Fehler, fehlendes Hintergrundwissen sowie eine respektlose oder schwer verständliche Sprache, zum Beispiel durch unnötig komplexe Satzstrukturen.

Diskriminierende Muster zeigen akuten Handlungsbedarf auf

In den partizipativen Workshops wurden verschiedene Chatbots untersucht. Diese unterscheiden sich erheblich in ihrer Sensibilität gegenüber diskriminierender Sprache. Einige Chatbots übernehmen problematische Formulierungen teilweise unreflektiert, während andere auf ausweichende, allgemein gehaltene Aussagen zurückgreifen. Christina Marx appelliert: „Unsere diskriminierungssensible KI-Anwendung ABLE zeigt: Inklusive Sprache bei KI-Chatbots ist nicht nur möglich, sondern längst überfällig. Digitale Teilhabe ist kein Privileg, sondern ein Anrecht. Wer sie wirklich umsetzen will, muss sie auch sprachlich ermöglichen – in allen Lebensbereichen.“

Ausblick: Weiterentwicklung und Unterstützung für Entwickler*innen

Seit dem 20. August 2025 ist die KI-Anwendung der Aktion Mensch auf der Plattform GitHub unter einer Open-Source-Lizenz verfügbar und für interessierte Unternehmen sowie Entwickler*innen einfach und kostenlos nutzbar. Die Aktion Mensch möchte ABLE gemeinsam mit Interessierten weiterentwickeln, um die Anwendung an die sich stetig verändernden Rahmenbedingungen anzupassen. Ab sofort unterstützt die Anwendung Entwickler*innen und Inklusions-Expert*innen dabei, Potenziale für eine inklusivere und diskriminierungssensiblere Sprache frühzeitig zu erkennen.

Weitere Informationen zur KI-Anwendung ABLE und zum Testverfahren gibt’s unter: https://www.aktion-mensch.de/kuenstliche-intelligenz-und-inklusion/able.