"Können Sie erklären, warum Ihr Modell diesen Antrag abgelehnt hat?"

Diese Frage stellt künftig nicht nur der Kunde. Sie stellt die Aufsicht.

EIOPA hat im August 2025 in einer Opinion beschrieben, was die nationalen Aufsichtsbehörden von Versicherern beim KI-Einsatz erwarten sollen: Ergebnisse von KI-Systemen sollen sich risikobasiert und verhältnismäßig sinnvoll erklären lassen. Trainingsdaten und Modellierung sollen so dokumentiert sein, dass sie reproduzierbar und nachvollziehbar bleiben. Verzerrungen in den Daten und mittelbare Diskriminierung über Stellvertreter-Merkmale müssen aktiv adressiert werden.

Aus über 20 Jahren Machine Learning kann ich sagen: Erklärbarkeit ist keine Funktion, die man am Ende dazuschaltet. Sie ist eine Architekturentscheidung ganz am Anfang.

• Welche Features fließen ins Modell ein, und sind sie fachlich begründbar?
• Ist jede Modellversion mit ihren Trainingsdaten reproduzierbar verknüpft?
• Gibt es einen definierten Prozess, wenn das Monitoring Drift oder Bias anzeigt?

Wer diese drei Fragen sauber beantworten kann, hat eine belastbare Grundlage für das Gespräch mit der Aufsicht. Nicht durch ein Compliance-Projekt, sondern durch gute Ingenieursarbeit.

Ich baue solche nachvollziehbaren ML-Systeme für regulierte Branchen.

Transparenzhinweis: Die EIOPA-Opinion schafft keine neuen Anforderungen, sondern beschreibt Erwartungen auf Basis von Solvency II und IDD. Hochrisiko-Systeme nach der KI-VO deckt sie nicht ab, für diese gelten deren Pflichten ab Dezember 2027. Die drei Prüffragen sind meine eigene Verdichtung, keine offizielle Checkliste. Korrigierte Fassung: Der LinkedIn-Beitrag vom 18. August berief sich auf eine BaFin-Mitteilung, die hier nicht als Primärquelle belegt werden konnte.