KI-Governance – den Nutzer stets im Blick
So geht Möglichmachen!
KI-Projekte erfordern nicht nur technische Regeln, sondern auch eine klare Ausrichtung auf die Nutzer. Sie müssen wissen, wie sie ihre KI-Anwendungsfälle sinnvoll und vertrauenswürdig umsetzen können, um von den Möglichkeiten der Technologie zu profitieren.
Um diese Orientierung geben zu können, sollte die KI-Governance sowohl Chancen erkennen und einschätzen als auch Risiken managen und mindern.
Mission und Verantwortung der KI-Governance
Die Organisation sollte mit ihren Rollen, Prozessen und Werkzeugen anpassungsfähig sein und immer die User als ihre Hauptadressaten im Blick behalten. Denn diese sind es, die letztlich von den vollen Potenzialen der KI-Technologie profitieren sollen. Ergänzt zunächst vorhandene Strukturen der IT-Governance um KI-relevante Aspekte und entwickelt sie weiter.
Eine ausgewogene und zeitgemäße KI Governance trägt eine umfassende Verantwortung, um die verschiedenen Belange von Business und IT ("user") oder Datenschutz, Informationssicherheit und Recht ("2nd line of defence") auszubalancieren. Die Verteilung der damit verbundenen Aufgaben, Kompetenzen und Verantwortlichkeiten ist zentrale Mission der KI Governance – und je nach Reifegrad des Unternehmens idealerweise auch in agilen Abläufen.
Baue eine KI-spezifische Governance in eurem Unternehmen schrittweise auf und aus oder optimiere sie.
Mit zunehmendem Nutzungsgrad KI basierter Lösungen sollten Entgegennahme, Beratung und Beantwortung damit verbundener Fragestellungen von einem zentralen Beauftragten für KI übernommen werden ("AI Officer"). Ähnlich wie ein taktischer IT-Provider-Manager oder Cloud Manager agiert er als Bindeglied zwischen Nutzer und den Funktionsträgern aus Datenschutz, Informationssicherheit und Recht. Mit unseren Vorlagen aus dem AI Enabling Kit unterstützen wir bei der Rollenbeschreibung, dem Wissensauf- und Ausbau und der Einführungsbegleitung.
Der Einsatz von KI bringt auf der technischen, organisatorischen, aber auch kulturellen Ebene Komplexität im Unternehmen mit sich.
Zur Koordination der unterschiedlichsten Anforderungen aus Business und IT sowie Datenschutz, Informationssicherheit und Recht empfiehlt sich die Einrichtung eines crossfunktionalen KI-Kompetenz-Teams ("AI Competence Team"). Das Team wird zum Rückgrat der KI-Governance.
Wir helfen euch bei der Konzeption, dem Aufbau und der Einführung, definieren die Aufgaben, Kompetenzen und Verantwortlichkeiten (AKV) im Team. Damit eng verbunden ist auch die Klärung der Frage der aufbauorganisatorischen Verankerung sowie die gesamthafte Befähigung des Teams.
Unternehmensinterne KI-Richtlinien ("AI Policies") stecken den Handlungsrahmen ab, innerhalb dessen die strategischen KI-Ziele, die sich das Unternehmen gesetzt hat, erreicht werden können. Aspekte der Innovationsverwirklichung, Fairness, Resilienz, Risikobeherrschung und Steuerbarkeit stehen dabei im Vordergrund – immer auch unter ausdrücklicher Einbeziehung des Menschen ("human in the loop").
Neben den KI-Richtlinien erstellen wir auch die spezifischen Arbeits-, Organisations- oder Verfahrensanweisungen, die für euer Unternehmen im Umgang mit KI konkrete Handlungs- und Verhaltensweisen vorgeben.
Das KI-Governance-Modell sollte sich am typischen Lebenszyklus einer KI orientieren, die von der Ideenfindung, über Auswahl und Training des Modells, der Qualitätssicherung und Risikobewertung bis zur Überwachung im laufenden Betrieb erstreckt.
Wir unterstützen euch bei der Anpassung bestehender IT-Entwicklungs-, -Betriebs und -Steuerungsprozesse um KI-Spezifika und arbeiten mit euch aber auch KI-eigene Prozesse wie beispielsweise für das Modell-Training oder die Konformitätsprüfung gegen die Anforderungen der KI-Verordnung (AI Act) aus.
Bei der Nutzung KI-basierter Lösungen und Modelle ist die Achtsamkeit der Nutzer besonders gefragt, geht es doch um die grundlegende Frage, ob und welche Daten und Informationen des Unternehmens hier (nicht) eingegeben werden dürfen. Auf Grundlage einschlägiger Vorlagen aus unserem AI Enabling Kit helfen wir euch bei der Ausarbeitung solcher AI User Guidelines und Onepager. Bei Bedarf unterstützen wir auch bei der damit verbundenen Einführung beispielsweise in Form von spezifischen Landingpages im Unternehmens-Web, Roadshows in ausgewählten Geschäftsbereichen oder der Produktion von Lernvideos.
Auf dem Weg, datengetriebene Entscheidungen treffen zu können, werden sich Technologie, Organisation und Kultur im Unternehmen verändern (müssen). Eine vorausschauende KI-Governance übernimmt an dieser Stelle beispielsweise Verantwortung für Kommunikations- und Qualifizierungsmaßnahmen.
Wir begleiten euch bei der Bewältigung dieser Transformation, planen mit euch das Vorgehen und arbeiten die flankierenden Maßnahmen aus. Neben der Innenwahrnehmung eures Unternehmens solltet ihr immer auch die Außenperspektive einnehmen und entscheiden, ob und in welchem Umfang ihr für eure Kunden den Einsatz von KI transparent macht.
Inzwischen gibt es national wie international eine Vielzahl KI-spezifischer Gesetze, Standards und Leitfäden, deren Vorgaben bzw. Empfehlungen gut geeignet sind, um sie bei der Konzeption für eine KI-Governance-Struktur zu berücksichtigen.
Wir behalten hier für euch den Überblick und bringen bei Bedarf ausgewählte Referenz-Rollen- und Prozessprofile in die Zusammenarbeit ein, aber auch mögliche Parameter, anhand derer ihr Erfolg und Wirksamkeit eurer Governance messen könnt.
Euer Bedarf, unsere Beratung
Je nach Stadium eure KI-Reise beraten wir euch individuell - immer ausgerichtet auf den Lebenszyklus einer KI!
Gut aufgestellt!
KI-Governance sollte immer die User im Blick haben.
Wesentliche Elemente der KI-Governance im Überblick
Wie in "klassischen" IT-Governance-Modellen vielfach bewährt, wird auch die KI-Governance im Wesentlichen von spezifischen Rollen und Prozessen getragen, die Vorgaben zur Entwicklung, zum Training sowie zur Anwendung von KI machen und insgesamt deren Umsetzung überwachen.
Darüber hinaus übt eine nutzerorientierte KI-Governance vor allem auch eine beratende Funktion aus, um Nutzer aus Business und IT bei der Einführung und im Umgang mit KI zu unterstützen. Die übergeordnete Mission der KI-Governance lautet dabei, das Unternehmen zu befähigen, die selbst gesetzten, strategischen Ziele für einen mehrwertstiftenden und vertrauensvollen KI-Einsatz zu erreichen.
Umsetzung KI-Strategie
Überwachung KI-Vorgaben
Beratung KI-Nutzer
Aufbau- & Ablauforganisation
So wird KI-Governance zum echten Möglichmacher
Damit auch eure KI-Governance zum echten Erfolgsmodell wird, empfehlen wir euch, beim Aufbau auf zentrale Attribute zu achten und im Selbstverständnis zu verankern. Sämtliches Planen, Vorgeben und Handeln orientiert sich hieran.
Die Interessen der User aus Business und IT stehen dann mit den auf Risikobeherrschung gestellten Anforderungen aus Datenschutz, Informationssicherheit, Recht etc. im Einklang, wenn euer KI-Governance-Modell mindestens diese Eigenschaften hat:
-
1. Mehrwertstiftend
Die KI-Governance ist mehrwertstiftend, wenn ihr Rahmen unter Abwägung von Chancen und Zielen darauf ausgerichtet ist, die strategischen KI-Ziele des Unternehmens zu erreichen. Indem sie so Innovationen fördert, Risiken minimiert und Vertrauen schafft, wird sie selbst zum Mehrwert.
-
2. Nutzerorientierung
Eine nutzerorientierte KI-Governance stellt den User von KI in den Mittelpunkt ihrer Überlegungen und Vorgaben. Rollen, Prozesse und Werkzeuge werden aus der Perspektive entwickelt und eingeführt, wie sie Nutzerinnen und Nutzern bestmöglich und leicht verständlich Orientierung im Umgang mit KI geben.
-
3. Rechts- & Regel-Konformität
Die Nutzung der KI muss den geltenden Datenschutzgesetzen wie der DSGVO, aber auch Spezialgesetzen wie der KI-VO entsprechen. Dazu gehört auch die Beachtung und Umsetzung der Vorgaben, die sich das Unternehmen selbst mit KI-Richtlinien o.ä. auferlegt hat.
-
4. Sicherheit
Die KI schützt sensible Daten und gewährleistet deren Sicherheit vor unbefugtem Zugriff oder Missbrauch. Sie muss stabil und zuverlässig funktionieren, auch unter ungewöhnlichen oder stressigen Bedingungen, um Manipulationen oder Datenlecks zu vermeiden.
-
5. Transparenz
Die Entscheidungsprozesse der KI sind verständlich und nachvollziehbar, so dass Nutzer und Behörden die Funktionsweise und die zugrundeliegenden Daten nachvollziehen können. Dazu gehört auch, Kunden über den Einsatz von KI proaktiv zu informieren.
-
6. Vertrauen
Die KI vermeidet Diskriminierung und Bias, indem sie fair und objektiv arbeitet. Sie arbeitet zuverlässig unter verschiedenen Bedingungen und verfügt idealerweise über Mechanismen zur Fehlererkennung und -korrektur, um Fehlentscheidungen zu minimieren.
Auch interessant für dich
Erklärbare KI – ein Buch mit sieben Siegeln?
Die Politik fordert deshalb kategorisch "erklärbare KI", aber die Konzepte dazu stecken noch in den Kinderschuhen. Fachartikel von Claudia Dölker.
KI-Modelle im Fokus - 7. MaRisk-Novelle
Es war nur eine Frage der Zeit, bis die Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) KI-Modelle aufgreift. Ein Kommentar.
Data & AI-Seminare
Du willst Vorreiter und Experte sein, wenn es um Data und AI geht? Dann buche für dich und dein Team eines unserer Seminare!
KI-Governance
Stefan Wendt
Enabler und Partner
Du hast Fragen zur KI-Governance? Stefan Wendt hat die Antworten und freut sich über deine Kontaktaufnahme.
Tel +49 6172 177 630