Wenn KI Vorurteile lernt: Lösungen kommen aus der Branche

Ein Artikel von Stefanie Weidner, Leitung Unternehmensentwicklung bei GründerFinanz und Unternehmerin

Im Oktober 2025 war ich Panelistin bei FemSurance auf der DKM. Dort kam eine unbequeme Frage auf: Was macht ein KI-Bewerbungstool, das auf Basis von 20 Jahren Entscheidungspraxis deutscher Konzerne trainiert wurde? Die Antwort ist simpel und ernüchternd: Es lernt, wie bisher entschieden wurde. Nicht, wie entschieden werden sollte.

Der Algorithmus, der zu genau gearbeitet hat

Amazon hat genau das bereits 2018 erlebt. Reuters deckte damals einen Fall auf: Ein intern entwickeltes KI-Tool für die Bewerbungsvorauswahl bewertete Frauen systematisch schlechter. Der Grund lag nicht im Code, sondern in den Trainingsdaten: zehn Jahre interne Bewerbungshistorie, männerdominiert. Das Tool war nicht kaputt. Es war so präzise, wie es gebaut wurde.

Ähnliche Systeme laufen inzwischen in deutschen Versicherungshäusern, Maklerbetrieben und HR-Abteilungen. Meist eingeführt unter der stillschweigenden Annahme, dass Maschinen objektiver entscheiden als Menschen. Diese Annahme stimmt eben nur zum Teil.

Datenerbe statt Datenfehler

Künstliche Intelligenz lernt aus Daten. Daten sind dokumentierte Vergangenheit. Dazu gehören zum Beispiel: Gehaltsentscheidungen der letzten fünfzehn Jahre, Annahmequoten bei Berufsunfähigkeitsanträgen nach Geschlecht oder Beförderungspraxis in Führungsetagen. Wer ein Modell trainiert, füttert es mit genau dieser Historie.

Nicht das Erkennen gesellschaftlicher Muster durch KI ist eigentlich das Problem. Problematisch wird es, wenn sie diese Muster reproduziert und gleichzeitig als Prognose ausgibt. Ein Algorithmus, der auf der Grundlage von 20 Jahren männerbesetzten Führungspositionen trainiert ist, prognostiziert genau das: Männer in Führungspositionen. Nicht aus Überzeugung, sondern wegen der Statistik der Vergangenheit.

Das versteckte Problem: Proxy-Diskriminierung

Direkte Diskriminierung ist mittlerweile verboten. Kaum ein seriöses KI-System nutzt Geschlecht oder Herkunft als Trainingsmerkmal. Das beruhigt viele Anwender:innen. Leider zu Unrecht. Denn Bias schleicht sich über Umwege ein. Postleitzahl korreliert mit Herkunft und Einkommen. Berufsbezeichnung korreliert mit Geschlecht. Name mit vermuteter Nationalität. Ein Modell, das mehrere dieser Merkmale kombiniert, landet am Ende bei einer Entscheidung, die sich wie Diskriminierung anfühlt – und es auch ist. Nur eben ohne das verbotene Merkmal im Input.

Für die Versicherungsbranche ist dieser Punkt besonders heikel. Ein Kfz-Tarif, der über eine Telematik-Box das tatsächliche Fahrverhalten misst – Bremsstärke, Beschleunigung, Nachtfahrten – und daraus die Prämie ableitet, basiert auf einer nachvollziehbaren Risikoeinschätzung. Ein Tarif, der bestimmte Postleitzahlen systematisch höher bepreist und dabei Stadtteile mit hohem Migrationsanteil trifft, ist etwas anderes. Der Unterschied ist mathematisch oft klein, juristisch und gesellschaftlich ist er groß.

Warum die Branche hier einen Vorsprung hat

Und jetzt zur Versicherungsbranche: Risikodifferenzierung ist das Kerngeschäft seit über einem Jahrhundert. Aktuarinnen und Aktuare unterscheiden seit Generationen zwischen statistisch relevanter Differenzierung und unfairer Benachteiligung. Keine andere Branche hat so viel Erfahrung mit genau dieser Grenzziehung.

Dazu kommt die Regulierung. Der EU AI Act stuft KI-Systeme zur Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung explizit als Hochrisiko-Anwendung ein (Anhang III Nr. 5 Buchstabe c der KI-Verordnung). Für die betroffenen Bereiche heißt es: Fairness-Prüfungen dokumentieren, Datenqualität nachweisen, Diskriminierungsrisiken aktiv prüfen. Das ist ab Inkrafttreten Pflicht.

Versicherer sind es gewohnt, Risiko in Zahlen zu übersetzen. Genau das braucht Fairness-Auditierung auch. Metriken, Schwellenwerte und Modellvergleiche: Wer versicherungsmathematisch denkt, bringt für Fairness-Auditierung die passende Denkweise mit.

Wie sich versteckter Bias aufspüren lässt

Wer wissen will, ob ein System fair entscheidet, muss es testen. Outcome-Analysen nach Geschlecht, Alter, Herkunft und weiteren Merkmalen. Nicht nur einmalig zur Einführung, sondern regelmäßig. Testdatensätze mit identischen Profilen, die sich nur in einem geschützten Merkmal unterscheiden, zeigen innerhalb weniger Minuten, ob das Modell anders entscheidet, als es sollte.

Ebenso wichtig sind externe Fairness-Audits. Interne Teams haben einen blinden Fleck für Muster, die sie selbst erzeugt haben. Eine zweite Meinung kostet Geld und ist unbequem. Sie spart aber Klagen, regulatorische Eingriffe und Vertrauensverluste in der Kundschaft.

Wie sich Bias in der Entwicklung vermeiden lässt

Drei Hebel zählen. Erstens: diverse Teams im Training. Wer Modelle baut, beeinflusst, welche Merkmale einfließen, welche Tests laufen und welche Ergebnisse als normal gelten. Homogene Teams übersehen homogen. Zweitens: eine diverse und aktuelle Datenbasis. Wer ein Modell mit Entscheidungen der letzten zwanzig Jahre füttert, schreibt genau diese Muster fort. Gezielte Rebalancierung der Trainingsdaten ist technisch möglich und wird in der Praxis zu selten genutzt. Drittens: menschliche Letztentscheidung bei Einzelfällen. Automatisierung hilft bei Skalierung. Für sensible Entscheidungen über Personen bleibt ein menschliches Korrektiv sinnvoll.

Fazit: Ignorieren geht nicht mehr

Bias in der KI lässt sich selten mit besserer Technik lösen. Er sitzt in den Daten und damit in Entscheidungsmustern, die über Jahrzehnte gewachsen sind. Das Unangenehme: Ignorieren geht nicht mehr, weil Bias jetzt messbar ist. Das Nützliche: Korrigieren geht aus genau demselben Grund.

Die Versicherungswirtschaft ist die einzige Branche, die Risiko seit über einem Jahrhundert mathematisch präzise von Diskriminierung trennt. Aktuarielles Know-how, regulatorische Erfahrung und Praxis in der fairen Risikodifferenzierung sind bereits vorhanden. Die Frage ist nicht, ob Fairness in der Versicherungswirtschaft geprüft wird. Die Frage ist, ob die Branche den Standard selbst setzt oder ihn anderen überlässt.

Lesen Sie auch: Versicherungen und Psychologie: Was Makler beachten sollten

Interessieren Sie sich für weitere Hintergrundartikel aus der Branche? Dann abonnieren Sie das monatliche Fachmagazin AssCompact – kostenfrei für Versicherungs- und Finanzmakler.