FINMA und EU fordern Compliance-Workshops für Teams
Einführung in die regulatorischen Anforderungen an KI
Die Zeit des unregulierten Einsatzes von Künstlicher Intelligenz (KI) in Unternehmen ist vorüber. Aktuelle Vorgaben, sowohl von der Schweizer Finanzmarktaufsicht (FINMA) als auch durch den bevorstehenden EU AI Act, verlangen verbindliche Schulungen und ein umfassendes Risikomanagement. Unternehmen sind gefordert, die Verantwortung für den Umgang mit KI-Risiken nicht mehr nur bei zentralen Abteilungen zu belassen, sondern aktiv an den operativen Teams zu verankern. Die Implementierung eines regulierten Ansatzes betont die Dringlichkeit, welche die Thematik KI-Governance nun einnimmt.
Diese Veränderungen signalisieren das Ende der Phase des ungezügelten Experimentierens. Unternehmen müssen jetzt Maßnahmen ergreifen, um den neuen regulatorischen Anforderungen gerecht zu werden. Dies hat unmittelbare Auswirkungen auf die internen Strukturen und Prozesse, mit dem Ziel, KI verantwortungsbewusst zu nutzen und gleichzeitig rechtlich zu agieren.
FINMA und ihre Richtlinien zur KI-Governance
Die gestern veröffentlichte Aufsichtsmitteilung 08/2024 der FINMA setzt klare Maßstäbe für die Governance von KI-Anwendungen. Ein zentrales Anliegen der neuen Richtlinien ist die Inventarpflicht: Alle KI-Anwendungen, einschließlich inoffizieller „Shadow AI“, müssen erfasst und gemeldet werden. Zudem wird Unternehmen geraten, externe KI-Lösungen kritisch zu hinterfragen. Es reicht nicht aus, blind auf die Funktionalitäten von Drittanbietern zu vertrauen; eine eingehende Analyse der Funktionsweise und der damit verbundenen Risiken ist zwingend erforderlich.
Ein weiterer zentraler Punkt ist die Verantwortlichkeit der Anwender selbst. Die FINMA hat klargestellt, dass die primäre Risikokontrolle in den Händen der Nutzer liegen muss. Dies bedeutet, dass jeder Mitarbeiter, der mit KI-Systemen arbeitet, über ein ausreichendes Verständnis der Risiken verfügen und in der Lage sein muss, diese aktiv zu managen. Diese neue Verantwortung stellt eine bedeutende Veränderung in der Organisation dar, da es oft an Wissen über Risiken und notwendige Governance fehlt. Die Dringlichkeit dieser Maßnahmen könnte nicht höher sein, da sie unmittelbar mit der rechtlichen Verantwortung der Unternehmen verknüpft ist.
EU AI Act: Der Weg zur KI-Kompetenz
Parallel zu den Vorgaben der FINMA tickt die Uhr in Europa, wo am 2. Februar 2025 Teile des EU AI Acts in Kraft treten werden. Dies inkludiert die verpflichtende Schulung zur KI-Kompetenz (AI Literacy) für Mitarbeitende. Unternehmen müssen nun sicherstellen, dass ihre Teams befähigt sind, KI-Systeme verantwortungsvoll zu nutzen. Dies bedingt nicht nur Compliance-Workshops, sondern auch ein vertieftes Verständnis über den Umgang mit Hochrisiko-KI-Systemen.
Die Schulungen müssen über das reine „Prompt Engineering“ hinausgehen und umfassen wesentliche Punkte wie die Einstufung von Hochrisiko-KI-Systemen, die Notwendigkeit einer kritischen Analyse von KI-Ergebnissen und den sicheren Umgang mit sensiblen Daten. Diese Schulungsanforderungen tragen dazu bei, dass Mitarbeitende sowohl die Chancen als auch die Risiken bestehender KI-Anwendungen adäquat einschätzen können. Ein strukturiertes Schulungsprogramm ist somit ein zentraler Bestandteil der Unternehmensstrategie, um die geforderten Compliance-Richtlinien zu erfüllen.
Standardisierung durch ISO 42001
Um den geforderten Standards gerecht zu werden, orientieren sich zunehmend Unternehmen an der internationalen Norm ISO/IEC 42001 für KI-Managementsysteme. Diese Norm bietet klare Handlungsrahmen und stimuliert die strukturelle Auseinandersetzung mit KI-Anwendungen. Workshops, die nach dieser Norm gestaltet sind, integrieren wesentliche Elemente wie Risiko-Assessments vor Projektstart, Transparenzprotokolle für KI-generierte Inhalte und Feedback-Schleifen für KI-Fehler.
Die Implementierung dieser Standards soll gewährleisten, dass Compliance nicht als Hemmschuh, sondern als Katalysator für Fortschritt wahrgenommen wird. Gut durchdachte Governance-Prozesse verhelfen den Unternehmen dazu, agiler zu agieren, während gleichzeitig das Risiko minimiert wird. Durch aktive Compliance-Maßnahmen können Unternehmen ihre Wettbewerbsfähigkeit langfristig sichern und den Anforderungen des Marktes gerecht werden.
Fazit: Der Wandel zu regulierten KI-Anwendungen
Die aktuellen Entwicklungen verdeutlichen einen signifikanten Wendepunkt in der KI-Implementierung innerhalb von Unternehmen. Die Rahmenbedingungen haben sich entscheidend geändert, was eine massive Nachfrage nach Schulungen und Workshops zur rechtssicheren Nutzung von KI hervorrufen dürfte. Insbesondere Familienunternehmen und international tätige Teams stehen vor der Herausforderung, zwischen den verschiedenen gesetzlichen Vorgaben zu navigieren. Eine proaktive Investition in die Ausbildung der Mitarbeitenden ist essenziell, nicht nur um rechtliche Konsequenzen zu vermeiden, sondern auch um die gesamte Organisation zukunftssicher zu machen.