KI-Modelle im Fokus -
7. MaRisk-Novelle

Es war nur eine Frage der Zeit, bis die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) KI-Modelle aufgreift: Am 29. Juni 2023 hat die BaFin ihre 7. Novelle der Mindest­an­forderungen an das Risikomanagement der Banken (oder kurz MaRisk) veröffentlicht. Dem voraus ging eine vierwöchige Konsultations­phase. Neben Themen der Nachhaltigkeit und der Einbeziehung der EBA-Leitlinien, hat auch ein neues Thema Einzug erhalten: der Umgang mit Modellen.

Die eher unscheinbare neue Ziffer AT 4.3.5 behandelt insbesondere Modelle der künst­lichen Intelligenz:

• Banken können KI-Modelle frei wählen, müssen aber ihre Annahmen nachvollziehbar darlegen. Zusätzlich sind die Angemessen­heit und Eignung vor dem Einsatz eines Modells zu bewerten und regelmäßig zu überprüfen.
• Damit eine Bank informierte Entscheidungen zur Auswahl von Modellen treffen kann, muss sie hinreichende Kenntnisse über die Modell-Konzeption, die Annahmen und Parameter sowie die einfließenden Daten nachweisen.
• Banken müssen mit einer geeigneten Data Governance sicherstellen, dass die Qualität der Daten ausreichend ist. Das soll auch das Erkennen von Qualitätsschwächen ermöglichen.
• Die beaufsichtigten Banken müssen sich in Zukunft auch damit auseinandersetzen, wie sie die Ergebnisse eines Modells ver­wer­ten. Es muss möglich sein, Ergebnisse eines Modells manuell zu überschreiben (Gedanke des „Human in the loop“).

Es war zu erwarten, dass die BaFin über kurz oder lang KI-Modelle in das Regulierungs­regime aufnimmt. Erste Gedanken hatte sie bereits in ihrem Prinzipienpapier zur BDAI geteilt. Daher sind diese Regulierungsansätze insgesamt nicht neu, sondern eine konse­quente Fortführung von marktüblichen Standards.

Das letzte Wort zur Regulierung von Künst­licher Intelligenz ist sicherlich noch nicht gesprochen. Die Anforderungen der BaFin sind ein erster sinnvoller Schritt, um die Nutzung von KI-Modellen in der Finanz­branche in geordnete Bahnen zu lenken. microfin wird die Regulierungspraxis rund um KI für Finanzdienstleister weiter beobachten und kommentieren und Organisationen mit der KI-Auswahl und -Einführung befähigen.