KI & Inklusion: Wie passt das zusammen?
Diskriminierung ist beim Einsatz von KI leider immer noch ein großes Thema. Deren Bekämpfung kann nur über ein methodisches Vorgehen gelingen, welches das Thema Inklusion bereits bei der Implementation von KI-Systemen berücksichtigt.
Die Trainingsdaten der KI spiegeln häufig gesellschaftliche Ungleichheiten oder menschliche Vorurteile wider.
Künstliche Intelligenz erfüllt aktuell viele Rollen: der Enabler, der Effizienztreiber, der Innovationsmotor, der Assistent, der Katalysator für Transformation. Aktuelle Zahlen belegen den Einsatz von KI in Geschäftsprozessen, auch wenn Ergebnisse in Punkto Produktivität und Effizienz variieren: So nutzen laut IW-Report 2025 bereits 42 Prozent der Unternehmen in Deutschland KI zur Innovationssteigerung. 82 Prozent berichten von Produktivitätsgewinnen. Dennoch existieren Beispiele, die die Grenzen der Technologie aufzeigen: So wird beim Softwareanbieter Workday eruiert, ob es mit einer KI-basierten Lösung zur Bewerbervorauswahl aufgrund von „automation bias“ zu unerlaubter Diskriminierung kam. Fälle wie diese werfen letzten Endes eine Frage auf: Macht KI unsere Gesellschaft inklusiver oder verdrängt sie genau jene, die auf Teilhabe besonders angewiesen sind?
Die Illusion von KI
Um es gleich vorwegzunehmen: Künstliche Intelligenz ist nicht neutral. Aufgrund falscher oder unvollständiger Trainingsdaten können so genannte Bias (Vorurteile) entstehen, die „blinde Flecken“ verursachen, die wiederum zu fragwürdigen oder falschen Entscheidungen führen. Was bedeutet das? Daten, mit denen die KI trainiert wird, spiegeln häufig gesellschaftliche Ungleichheiten oder menschliche Vorurteile wider. Menschen mit Behinderungen oder andere unterrepräsentierte Gruppen werden benachteiligt, da die Trainingsdaten die gesellschaftliche Vielfalt unvollständig abbilden.
Zudem kann es zu Diskriminierungen kommen, wenn Gender, Herkunft, Alter oder sozioökonomischer Status nicht ausreichend berücksichtigt werden. KI wird damit ohne Einbeziehung marginalisierter Gruppen entwickelt. Sie agiert nicht kontextsensibel, sondern wiederholt vergangene Muster, anstatt sie kritisch zu hinterfragen. Nach dem Motto „keep the human in the loop“ gibt die KI-Verordnung der EU (AI Act) deshalb eine verpflichtende menschliche Kontrolle vor, die es ermöglichen soll, diesbezügliche Risiken zu minimieren.
Eine weitere Herausforderung ist nach wie vor die fehlende Transparenz und Erklärbarkeit. Nutzende, egal ob mit oder ohne Beeinträchtigungen, können nicht nachvollziehen, wie Ergebnisse und damit Entscheidungen getroffen werden. Besonders betroffen sind dabei Menschen mit kognitiven Einschränkungen. Eine Offenlegung dieser „Strategie“ ist daher zwingend notwendig.
KI braucht eine inklusive Herangehensweise
Um diesen und weiteren Risiken entgegenzusteuern, braucht es eine neue, inklusive Herangehensweise. In der Praxis können zum Beispiel inklusive Dienstleister unterstützen, die eine Brücke zwischen Technologie, Wirtschaft und sozialer Verantwortung schlagen können. Das bedeutet, dass inklusive Teams – Mitarbeitende mit und ohne Einschränkungen – gemeinsam digitale Anwendungen konzipieren, testen und weiterentwickeln und diese – etwa im Bereich der Digitalen Barrierefreiheit – auf Zugänglichkeit prüfen. Dabei gilt: Nur wenn Barrierefreiheit von Anfang an mitgedacht wird, können digitale Inhalte und KI-basierte Systeme für alle zugänglich sein, ein erklärtes Ziel moderner, inklusiver Gesellschaften.
Nur wenn gemischte Teams mobile Apps, Webseiten oder Software auf Barrierefreiheit testen, werden Mängel und Vorurteile sichtbar.
Zwei Beispiele aus der Praxis: Im Team „Digitale Barrierefreiheit“ der Pfennigparade Business. Inklusiv., einem gemeinnützigen und inklusiven Dienstleister aus München, arbeiten Ilber und Richard zusammen. Ilber ist blind, sein Kollege Richard kann sehen. In gemischten Teams testen sie digitale Objekte (mobile Apps, Webseiten, Software) auf Barrierefreiheit. Ein anderes Beispiel ist bei SAP zu finden: Dort wurde ein Programm eingeführt, das Menschen im Autismus-Spektrum fördert. So setzen Mitarbeitende ihre besonderen Fähigkeiten etwa im Bereich Datenanalyse ein. Eine inklusive Herangehensweise an KI zielt also nicht nur darauf ab, Menschen mit unterschiedlichen Voraussetzungen in KI-Systemen sichtbar zu machen, ihre Bedürfnisse zu berücksichtigen und diskriminierende Verzerrungen zu verhindern, sondern fördert darüber hinaus auch ihre Teilhabe am Arbeitsmarkt.
Wo KI & Inklusion zusammenkommen
Als Verstärker bestehender inklusiver Ansätze unterstützen KI-basierte Systeme Menschen mit Beeinträchtigungen heute auf unterschiedliche Weise:
- Kommunikation: KI-gestützte Spracherkennungs- und Übersetzungssysteme helfen Menschen mit Hör- oder Sprachbeeinträchtigungen und sorgen für eine verbesserte Teilhabe an Gesprächen. Auch automatische Untertitel in Echtzeit, etwa in Videokonferenzen oder öffentlichen Veranstaltungen, überbrücken kommunikative Barrieren. Zudem können Text-zu-Sprache- und Sprache-zu-Text-Systeme Menschen mit motorischen oder kognitiven Einschränkungen beim Schreiben und Lesen unterstützen.
- Mobilität: Bilderkennungssoftware in Smartphone-Apps kann blinden und sehbehinderten Menschen Objekte, Texte oder Hindernisse beschreiben und so die selbstständige Orientierung im Alltag erleichtern. Navigationssysteme, die individuelle Bedürfnisse berücksichtigen – etwa barrierefreie Wege oder akustische Hinweise – tragen zusätzlich zur selbstbestimmten Fortbewegung bei.
- Arbeitswelt: Intelligente Software kann Arbeitsabläufe strukturieren, Informationen vereinfachen (etwa durch einfache Sprache) oder repetitive Aufgaben übernehmen. Personalisierbare Interfaces (Tempo, Geschwindigkeit, Modalität) passen sich sogar den unterschiedlichen Bedürfnissen der Nutzenden an. Dadurch können Menschen mit Beeinträchtigungen ihre Fähigkeiten gezielter einbringen.
Die Kehrseite der Medaille
Auch wenn die Automatisierung einfacher, repetitiver Aufgaben uns in einigen Bereichen vieles erleichtert und Effizienzgewinne verzeichnet werden, bleibt die eingangs gestellte Frage bisher noch unbeantwortet: Macht KI unsere Gesellschaft inklusiver, oder verdrängt sie genau jene, die auf Teilhabe besonders angewiesen sind? Um eine Antwort darauf zu geben, bedarf es simpel gesagt Zeit. Wenn es um eine gleichberechtigte Teilhabe geht, ist noch einiges an Arbeit zu leisten. Gleichzeitig müssen aber auch die Chancen ergriffen werden, die sich durch KI-gestützte Systeme ergeben.
Die Arbeitswelt von heute und morgen befindet sich weiterhin im Umbruch. Aufgrund von KI fallen Jobs weg, neue entstehen. Untersuchungen dazu gibt es bereits, wie etwa ein Simulationstool des MIT für den amerikanischen Arbeitsmarkt. Wir werden erst in den kommenden Jahren sehen, wie die Entwicklungen dahingehend aussehen werden. Fakt ist, dass KI unterrepräsentierten Gruppen wie zum Beispiel Menschen mit Behinderungen neue Möglichkeiten eröffnen kann – von barrierefreier Kommunikation bis zu individueller Unterstützung im Alltag.
Doch der wahre Fortschritt entsteht nicht durch Technik allein, sondern durch die Art, wie wir sie gestalten: mit hoher Qualität, im Dialog mit Menschen mit und ohne Behinderung und mit dem klaren Ziel, die Selbstbestimmung und Teilhabe jedes Einzelnen zu stärken.
KI muss alle „mitnehmen“
Egal ob KI als Enabler, Katalysator oder Innovationsmotor agiert: entscheidend ist, dass der Fortschritt nicht nur an den üblichen Kriterien wie Geschwindigkeit oder Menge verarbeiteter Daten gemessen wird. Es muss genauso berücksichtigt werden, wen sie „mitnimmt“, sprich welche Grundsätze sie datenbasiert vertritt. Dann können wir auch sagen, dass KI und Inklusion durchaus gut zusammenpassen.
Jeder ist einzigartig, so auch Bedürfnisse und Anforderungen. Eine inklusive Gesellschaft entsteht nicht automatisch durch neue Technologien. Sie wird geformt durch bewusste Entscheidungen im Umgang mit ihnen. Der belgische Historiker und Autor Rutger Bregman beschreibt in seinem 2019 erschienen Buch „Im Grunde gut – Eine neue Geschichte der Menschheit“, welchen Stellenwert Vertrauen und Kooperation für den Fortschritt der Menschheit haben. Übertragen auf KI und Inklusion bedeutet das, dass wir durchaus Vertrauen haben (müssen) gegenüber diesen technologiegestützten Möglichkeiten. Ihre Verwendung bedarf jedoch Kooperation und Diversität in Datensätzen, Entwicklungsteams und Anwendungszielen.
