KI-Compliance im öffentlichen Sektor: Herausforderungen und Lösungen
Einführung in den Einsatz von Künstlicher Intelligenz im öffentlichen Sektor
Die Anwendung von Künstlicher Intelligenz (KI) nimmt im öffentlichen Sektor zunehmend zu. Diese Technologie wird als Schlüssel angesehen, um Effizienzsteigerungen und Leistungsverbesserungen zu erreichen sowie um Herausforderungen wie Fachkräftemangel und demographische Veränderungen, wie etwa Altenwellen, zu bewältigen. Die Einsatzmöglichkeiten sind vielfältig und reichen von der automatisierten Erstellung von Verwaltungsakten bis hin zu internen Anwendungen, die auch Auswirkungen auf die Öffentlichkeit haben können. Ein Beispiel hierfür ist das „Arbeitsmarktchancen-Assistenzsystem“ in Österreich, das mithilfe von KI die Chancen von Arbeitssuchenden auf dem Arbeitsmarkt analysiert. Nach einem langwierigen Rechtsstreit stellte das Bundesverwaltungsgericht fest, dass die Mitarbeiter des Arbeitsmarktservice in ihrer letztverantwortlichen Entscheidungsfindung agieren und somit kein Verstoß gegen die Datenschutz-Grundverordnung (DSGVO) vorliegt.
Die Implementierung von KI im öffentlichen Sektor bringt jedoch spezifische Herausforderungen mit sich. Die Behörden müssen die entsprechenden rechtlichen und datenschutzrechtlichen Vorgaben berücksichtigen und in ein robustes Compliance-System integrieren. Dies betrifft nicht nur die öffentliche Verwaltung, sondern unter bestimmten Umständen auch staatliche Unternehmen und andere öffentliche Entitäten. Ein Verständnis der besonderen verfassungs- und verwaltungsrechtlichen Rahmenbedingungen ist essentiell, um die rechtlichen und ethischen Anforderungen an den Einsatz von KI zu erfüllen.
Risiken und Herausforderungen für öffentliche Unternehmen
Die europäische KI-Verordnung (KI-VO), die am 1. August 2024 in Kraft trat, bildet die Grundlage für die Regulierung des KI-Einsatzes in der öffentlichen Verwaltung, einschließlich in öffentlichen Unternehmen. Diese Verordnung legt bedeutende Standards fest, die sowohl für private als auch für öffentliche Akteure gleichermaßen gelten, erweitert jedoch die Regulierungen für öffentliche Einrichtungen um spezifische öffentlich-rechtliche Anforderungen. Daher müssen öffentliche Unternehmen zusätzliche Compliance-Maßnahmen implementieren, um den rechtlichen Vorgaben zu entsprechen.
Ein zentrales Risiko hierbei ist die Verantwortung, die öffentlichen Unternehmen im Rahmen der KI-Compliance tragen. Die KI-VO berücksichtigt bei der Festsetzung von Bußgeldern sowohl mildernde als auch erschwerende Umstände. Öffentlichen Unternehmen könnte ein höherer Grad an Verantwortung zugesprochen werden, was stringentere Sorgfaltspflichten nach sich ziehen könnte. Diese besondere Verantwortung wird durch die Gemeinwohlbindung und das Vertrauen, das die Öffentlichkeit in öffentliche Einrichtungen setzt, zusätzlich verstärkt. Es wird erwartet, dass öffentliche Unternehmen eine höhere Verantwortung für die Integrität von KI-Anwendungen tragen, als es bei privaten Unternehmen der Fall wäre.
Zusätzlich können unzureichende Compliance-Maßnahmen zu rechtlichen Schwierigkeiten führen, unter anderem durch potenzielle Verstöße gegen das Public Corporate Governance Konzept (PCGK). Eine unzureichende Ausschöpfung der Möglichkeiten zur Compliance könnte sogar in Widerspruch zu den Grundsätzen guter Unternehmensführung stehen, die Transparenz und Risikomanagement betonen. Diese Verzerrungen müssen nachvollziehbar erklärt werden, was den Einsatz von KI im öffentlichen Sektor besonders herausfordernd macht.
Öffentlich-rechtliche Anforderungen an KI-Anwendungen
Die Nutzung von KI im öffentlichen Sektor ist stark an öffentlich-rechtliche Vorgaben gebunden. Unternehmen in öffentlicher Hand müssen sowohl den Standards der Privatsphäre als auch den Grundrechten Rechnung tragen, selbst wenn sie privatwirtschaftliche Strukturen haben. Diese Pflicht, an die Grundrechte gebunden zu sein, gilt insbesondere für Unternehmen, die mehrheitlich im Besitz des Staates sind. Der Einsatz von KI sollte stets die Grundrechte respektieren, vor allem das Recht auf informationelle Selbstbestimmung und den Gleichheitsgrundsatz.
Darüber hinaus ist die Transparenz der Entscheidungsfindung ein wesentlicher Bestandteil der Rechtsstaatlichkeit. Entscheidungen, die durch KI-gestützte Systeme getroffen werden, müssen nachvollziehbar und erklärbar sein, um einer effektiven gerichtlichen Kontrolle standzuhalten. Hierbei müssen Techniken, die die sogenannten „black box“-Entscheidungen ermöglichen, besonders kritisch betrachtet werden. Das bedeutet nicht nur, dass die Entscheidung selbst, sondern auch ihre Ableitung klar dargelegt werden muss.
Zusätzlich bestehen in der Regel erhöhte Auskunftspflichten für öffentliche Unternehmen. Diese Verpflichtungen ergeben sich aus dem Informationsfreiheitsgesetz und betreffen auch spezielle KI-Anwendungen. Entscheidungen, die auf KI-gestützten Systemen basieren, müssen den Bürgern transparent gemacht werden, was eine Herausforderung darstellt, insbesondere bei automatisierten Auswahlprozessen.
Compliance-Maßnahmen zur Sicherstellung rechtlicher Vorgaben
Um den zahlreichen öffentlich-rechtlichen Anforderungen gerecht zu werden, sind verschiedene Compliance-Maßnahmen notwendig. Die Wahl der entsprechenden Maßnahmen hängt stark vom jeweiligen Einsatzbereich der KI ab. Nicht alle Anwendungen erfordern spezielle Compliance-Vorgaben, aber je näher die Anwendung an hoheitlichen Aufgaben ist, desto strikter sollten die Compliance-Maßnahmen ausfallen.
Aktuell entwickeln sich Best Practices und Standards für verschiedene Anwendungsfälle. Der Fokus sollte auf bestehenden gesetzlichen Bestimmungen liegen, die durch den KI-Einsatz betroffen sind. Compliance-Maßnahmen können sowohl technisch als auch organisatorisch gestaltet werden und beinhalten die Sicherstellung, dass Menschen die letztendliche Entscheidungsgewalt über KI-Anwendungen behalten. Auch die regelmäßige Überprüfung auf mögliche Diskriminierungen sollte in die Compliance-Strategien integriert werden.
Eine wirksam implementierte Compliance-Strategie kann sich positiv auf die Abwehr von Haftungsfragen auswirken. Dies ist besonders relevant im Hinblick auf potenzielle Bußgelder, die gemäß bestehender rechtlicher Rahmenbedingungen verhängt werden können. Die Verantwortung des Aktors muss stets unter Berücksichtigung der ergriffenen Maßnahmen evaluiert werden. Dies schafft einen Anreiz für Unternehmen, proaktive Compliance-Maßnahmen umzusetzen.
Fazit: Herausforderungen und Perspektiven
Die Implementierung von KI im öffentlichen Sektor entwickelt sich zunehmend, und es ist unerlässlich, die spezifischen öffentlich-rechtlichen Anforderungen bei der Anwendung zu berücksichtigen. Angemessene Compliance-Maßnahmen sind entscheidend, um rechtlichen Rahmenbedingungen gerecht zu werden und das Vertrauen der Bürger in die Technologien zu stärken. Die zukünftige Regulierung sollte den bereits bestehenden gesetzlichen Vorgaben und der Entwicklung von Standards Rechnung tragen. Eine übermäßige Regulierung würde nicht nur den Einsatz von KI behindern, sondern könnte auch negative Auswirkungen auf die Gesellschaft haben.