KI-FAQ der KGSt: Wegweiser für Kommunen
Einführung in den EU AI Act
Mit dem Inkrafttreten des EU AI Act am 1. August 2024 wird die Kommunalverwaltung vor neue regulatorische Herausforderungen im Umgang mit Künstlicher Intelligenz (KI) gestellt. Diese Verordnung zielt darauf ab, die Nutzung von KI-Systemen in der EU zu regulieren und dabei sicherzustellen, dass grundlegende menschliche Werte gewahrt bleiben. Die Kommunale Gemeinschaftsstelle für Verwaltungsmanagement (KGSt) hat eine umfassende Publikation erstellt, um den Kommunen bei der praktischen Umsetzung des Gesetzes zu helfen. Diese behandelt zentrale Fragen rund um die Rollen, Pflichten und erforderlichen Fachkompetenzen, die aus dem AI Act resultieren.
Zentrale Themen der KGSt-Publikation
Die FAQ der KGSt konzentrieren sich auf drei wesentliche Aspekte des EU AI Act: den grundlegenden Regelungsinhalt der Verordnung, die spezifischen Rollen und Pflichten von Kommunalverwaltungen sowie die notwendigen Maßnahmen zur Entwicklung von KI-Kompetenzen. Diese Publikation richtet sich in erster Linie an Chief Digital Officers (CDOs), IT-Verantwortliche sowie Führungskräfte aus verschiedenen Bereichen wie Organisation, Finanzen und Personalmanagement. Durch die klare Struktur der FAQ wird den Behörden ermöglicht, die Anforderungen des EU AI Act schnell zu verstehen und umzusetzen.
Risikobasierter Ansatz
Der EU AI Act verfolgt einen risikobasierten Ansatz, wobei KI-Systeme in vier Kategorien eingeteilt werden. Diese klassifizieren Anwendungen von verbotenen bis hin zu Systemen mit geringem Risiko. Es wird klargestellt, dass verschiedene Einsatzzwecke unterschiedliche Verpflichtungen für öffentliche und private Organisationen nach sich ziehen. Beispielsweise werden KI-basierte Gesichtserkennungssysteme strenger reguliert als allgemeinere Anwendungen wie Chatbots, was weitreichende Implikationen für die Kommunen hat. Die Publikation verdeutlicht, dass alle kommunalen Einrichtungen unter den Anforderungen des AI Act fallen, was sowohl Behörden als auch öffentlich-rechtliche Organisationen und kommunale Dienstleistungen umfasst.
Spezielle Anforderungen an Chatbots
Ein besonders relevantes Thema sind KI-basierte Chatbots, die in der kommunalen Praxis zunehmend zum Einsatz kommen. Diese Systeme fallen oft in die Kategorie „General Purpose AI Models“ (GPAI), für die spezifische Transparenzpflichten gelten. Eine der Herausforderungen besteht darin, dass die Vergabe eines eigenen Namens an einen Chatbot dazu führen kann, dass die Kommune als Anbieter gilt und entsprechende Kennzeichnungen vornehmen muss. Ab dem 2. August 2026 müssen kommunale Chatbots den Transparenzanforderungen genügen. Dabei muss für Nutzer klar erkennbar sein, ob sie mit einem Mensch oder einem KI-System interagieren, es sei denn, die Inhalte unterliegen menschlicher Kontrolle.
Implementierung von KI-Governance
Die Umsetzung des EU AI Act erfordert von Kommunen den Aufbau einer effektiven KI-Governance. Diese Governance muss klare Prozesse, Rollen und Strukturen definieren, ohne auf pauschale Zuständigkeiten zurückzugreifen. Die Aufgaben der KI-Governance umfassen die Inventarisierung aller KI-Anwendungen, deren Risikobewertung sowie die Einhaltung von gesetzlichen Vorgaben. Besonders im Fokus steht die Erfassung der sogenannten „Embedded KI“, also KI-Komponenten, die in bestehende Systeme integriert sind, ohne dass die Nutzer dies unmittelbar bemerken. Der Aufbau einer solchen Governance ist nicht nur eine organisatorische Herausforderung, sondern erfordert auch ein Umdenken in der Verwaltungskultur.
Kompetenzaufbau im Umgang mit KI
Ein zentraler Bestandteil des EU AI Act ist die Verpflichtung zur Qualifizierung der Mitarbeitenden. Artikel 4 der Verordnung schreibt vor, dass Anbieter und Betreiber sicherstellen müssen, dass ihre Mitarbeitenden über die notwendigen Kompetenzen im Umgang mit KI verfügen. Die KGSt weist darauf hin, dass Schulungen nicht nur formalen Vorgaben genügen müssen, sondern auch ein tiefgreifendes Verständnis der Funktionsweise von KI und deren Risiken vermitteln sollen. Die EU-Kommission empfiehlt dazu Mindestinhalte für diese Programme, um ein angemessenes Niveau an KI-Kompetenz sicherzustellen. Es wird erwartet, dass diese Maßnahme dazu beitragen wird, die Qualität und Sicherheit der in der Verwaltung eingesetzten KI-Anwendungen zu gewährleisten und das Vertrauen der Nutzer in diese Systeme zu stärken. Dabei könnte es ernsthafte Konsequenzen geben, wenn die Verpflichtungen zur Kompetenzentwicklung nicht erfüllt werden.
Fazit: Herausforderungen und Ausblick
Trotz der umfassenden empfohlenen FAQ bleiben viele Fragen zur Implementierung und den Auswirkungen des EU AI Act auf kommunale Strukturen offen. Die KGSt erkennt an, dass nicht alle Auswirkungen gegenwärtig klar absehbar sind, insbesondere in Bezug auf die Wechselwirkungen zwischen dem AI Act und bestehenden Datenschutzbestimmungen. Die kontinuierliche Überwachung von Entwicklungen und die Aktualisierung der Informationen sind daher entscheidend für die angemessene Anpassung kommunaler Verwaltungsstrukturen an die neuen Herausforderungen. Die FAQ sind auf der Webseite der KGSt kostenlos abrufbar und bieten eine wertvolle Informationsressource für alle kommunalen Entscheidungsträger.