KI & Diversität: Wenn Technologie bestehende Ungleichheiten verstärkt – Teil 2

Künstliche Intelligenz wird häufig mit Objektivität, Datenbasiertheit und rationalen Entscheidungen verbunden. Gerade im Arbeitskontext klingt das vielversprechend: Bewerbungen schneller vergleichen, Talente identifizieren, Leistung analysieren oder Entwicklungsbedarfe erkennen.

Doch KI ist nicht automatisch neutral.

Denn jedes KI-System basiert auf Daten, Annahmen und Entscheidungskriterien. Und genau darin liegt eine zentrale Herausforderung: Wenn diese Grundlagen bestehende gesellschaftliche oder organisationale Ungleichheiten enthalten, kann KI sie nicht nur übernehmen, sondern im schlimmsten Fall sogar verstärken.

In Teil 1 unserer Blogreihe zum Thema KI und Führung haben wir gezeigt, wie KI die Rolle von Führung verändert und welche Fähigkeiten dadurch wichtiger werden. In Teil 2 richten wir den Blick nun auf eine weitere zentrale Frage für Führungskräfte und HR: Wie können Organisationen KI nutzen, ohne bestehende Verzerrungen zu automatisieren oder sogar zu verstärken? 

Wie Bias in KI überhaupt entstehen kann

Ein Bias – aus dem Englischen für Voreingenommenheit oder Befangenheit – bezeichnet eine systematische, oft unbewusste Verzerrung beim Denken, Wahrnehmen, Urteilen oder in Daten.

KI lernt aus Daten. Diese Daten sind jedoch kein neutrales Abbild der Welt, sondern spiegeln häufig bestehende Strukturen und Entscheidungen wider.

Wurden beispielsweise in der Vergangenheit bestimmte Gruppen seltener eingestellt oder befördert, können historische Personaldaten genau dieses Muster enthalten. Wird ein System darauf trainiert, „erfolgreiche“ Kandidat*innen oder Karriereverläufe zu erkennen, besteht die Gefahr, dass vergangene Muster zum Maßstab für zukünftige Entscheidungen werden.

Bias kann dabei unterschiedliche Ursachen haben. Bestimmte Gruppen können in Trainingsdaten unterrepräsentiert sein, relevante Merkmale können unvollständig gemessen werden oder scheinbar neutrale Kriterien können indirekt mit Geschlecht, Alter oder sozialem Hintergrund zusammenhängen.

Das Entscheidende: Verzerrungen setzen keine bewusste Diskriminierungsabsicht voraus. Auch ein System, das technisch korrekt funktioniert, kann deshalb Ergebnisse produzieren, die bestimmte Gruppen systematisch benachteiligen.

Wenn aus einzelnen Fehlentscheidungen ein System wird

Bei menschlichen Entscheidungen können Fehler oder Vorurteile einzelne Situationen beeinflussen. Bei KI kommt ein zusätzlicher Faktor hinzu: Skalierung.

Eine verzerrte Entscheidung kann innerhalb kurzer Zeit auf Hunderte oder Tausende Personen angewendet werden. Aus einem problematischen Muster wird dadurch möglicherweise ein standardisierter Prozess.

Hinzu kommen sogenannte Feedback-Loops: Werden KI-basierte Entscheidungen wiederum Teil zukünftiger Datensätze, können sich bestehende Muster weiter verfestigen. Gerade bei wiederkehrenden Personalentscheidungen ist das relevant.

Der entscheidende Unterschied liegt damit nicht nur in der einzelnen Fehlentscheidung, sondern in ihrer möglichen Reichweite: Was bei einem Menschen punktuell passiert, kann durch KI systematisch wiederholt und skaliert werden. 

Warum KI im HR-Bereich besonders sensibel ist

KI kann mittlerweile in nahezu allen Phasen der Zusammenarbeit mit Mitarbeitenden eingesetzt werden: vom Recruiting und Einstieg über Entwicklung, Leistungsbewertung und Beförderung bis hin zur Personalplanung und zum Austritt.

Doch eine automatisierte Produktempfehlung hat andere Konsequenzen als die Frage, wer zu einem Bewerbungsgespräch eingeladen, als High Potential eingestuft oder für eine Beförderung berücksichtigt wird.

Auch regulatorisch wird diese besondere Sensibilität sichtbar. Der EU AI Act stuft bestimmte KI-Systeme im Recruiting und in anderen sensiblen Personalbereichen als Hochrisiko-Anwendungen ein. Für eigenständige Hochrisiko-KI-Systeme – etwa Ranking-Tools für Lebensläufe in Bewerbungsverfahren – gelten die entsprechenden strengen Auflagen ab 2. Dezember 2027.

Bias ist kein rein technisches Problem

Ein technisch gut funktionierendes KI-System führt nicht automatisch zu fairen Entscheidungen. Entscheidend ist auch, wie und in welchem Kontext es eingesetzt wird.

Deshalb reicht die Frage „Funktioniert das Modell korrekt?“ nicht aus. Organisationen müssen zusätzlich fragen: Für wen funktioniert es? Welche Folgen entstehen aus seinen Empfehlungen? Und wer übernimmt Verantwortung?

Führungskräfte müssen KI-Ergebnisse hinterfragen können

Führungskräfte müssen keine KI-Systeme programmieren können. Sie müssen jedoch verstehen, wo deren Grenzen liegen.

Dazu gehört, KI-Empfehlungen nicht aufgrund vermeintlicher technologischer Objektivität ungeprüft zu übernehmen. Denn auch überzeugend wirkende KI-Ergebnisse sollten nicht automatisch als objektiv oder richtig betrachtet werden.

Führungskräfte sollten deshalb bewusst definieren: Wo darf KI unterstützen? Wo darf sie vorbereiten? Wo braucht es menschliche Kontrolle? Und welche Entscheidungen sollten grundsätzlich beim Menschen bleiben?

„Human in the Loop” bedeutet, dass ein Mensch weiterhin in den KI-gestützten Entscheidungsprozess eingebunden bleibt. Allein diese formale Beteiligung reicht jedoch nicht aus: Wenn KI-Empfehlungen nur noch bestätigt werden, ohne sie kritisch beurteilen zu können, entsteht noch keine echte menschliche Verantwortung.

Von „Bias vermeiden“ zu „Verantwortung gestalten“

Vollständig biasfreie Systeme sind in der Praxis nur schwer erreichbar. Umso wichtiger ist ein systematischer Umgang mit möglichen Verzerrungen.

Ein pragmatisches Framework kann dabei helfen:

Vor dem Einsatz: Welche Entscheidung soll KI unterstützen – und sollte sie dabei überhaupt eine Rolle spielen?

Während des Einsatzes: Welche Daten, Kriterien und Annahmen fließen in die Entscheidung ein?

Kontrolle: Welche Kontroll-, Prüf- und Eskalationsmechanismen gibt es?

Nach dem Einsatz: Welche Auswirkungen zeigt die Anwendung tatsächlich – und unterscheiden sie sich zwischen verschiedenen Gruppen?

Dazu gehören regelmäßige Evaluationen, klar definierte Zuständigkeiten zwischen HR, IT, Rechtsabteilung, Management und Fachbereichen sowie die bewusste Einbindung unterschiedlicher Perspektiven.

KI-Kompetenz bedeutet deshalb mehr, als nur KI-Tools bedienen zu können. Führungskräfte und HR sollten auch in der Lage sein, Risiken zu erkennen, Ergebnisse kritisch zu prüfen und mögliche Verzerrungen zu hinterfragen. 

Diversität wird zum Qualitätsfaktor für KI

Damit verändert sich auch der Blick auf Diversität.

Diversität ist im Zusammenhang mit KI nicht nur ein kultureller oder gesellschaftlicher Wert. Sie kann auch zu einem wichtigen Qualitätsfaktor für gute Entscheidungen und klare Verantwortlichkeiten werden.

Unterschiedliche Perspektiven helfen dabei, blinde Flecken zu erkennen, Annahmen zu hinterfragen und mögliche Nebenwirkungen früher sichtbar zu machen.

Die zentrale Kompetenz der Zukunft besteht deshalb nicht allein darin, KI einzusetzen. Sie besteht darin, gemeinsam mit KI verantwortungsvoll zu entscheiden.

Dafür braucht es technologische Grundkompetenz, kritisches Denken, ethische Urteilskraft und ein gutes Verständnis dafür, wie Entscheidungen in der Organisation zustande kommen.

KI kann bestehende Strukturen sichtbar machen, reproduzieren oder verstärken. Die entscheidende Führungsfrage lautet deshalb nicht nur: Was kann KI? Sondern vor allem: Wie wollen wir sie einsetzen? Und welche Verantwortung übernehmen wir für ihre Auswirkungen?



Verantwortungsvolle KI-Nutzung ist damit nicht ausschließlich eine technische oder rechtliche Aufgabe. Sie ist eine Führungsaufgabe.