Herausforderungen bei der Einführung von KI-Anwendungen

Viele Unternehmen schaffen es, KI-Prototypen erfolgreich zu entwickeln. Allerdings ist der Übergang in den produktiven Einsatz häufig mit erheblichen Schwierigkeiten verbunden. Dieses Thema stand im Mittelpunkt des Workshops „Mit KI-Engineering zum erfolgreichen KI-Projekt – KI-Anwendungen jenseits des Prototyps“. Organisiert wurde die Veranstaltung von den Referent:innen Dr. Constanze Hasterok, Ann-Kathrin Goßmann und Dr.-Ing. Thomas Usländer vom Fraunhofer IOSB. Der Workshop fand im Rahmen der Reihe „Dein Einstieg in KI“ des European Digital Innovation Hub Applied Artificial Intelligence and CyberSecurity (EDIH-AICS) statt.

Aktuelle Studien, wie die Deloitte State of AI in the Enterprise (2022), zeigen, dass nahezu 95 % der KI-Projekte nicht aufgrund technologischer Mängel scheitern. Vielmehr sind es strukturelle Aspekte, die Qualität der Daten, unklare Rollenverantwortlichkeiten und die unzureichende Möglichkeit zur Übertragung in den laufenden Betrieb, die den Erfolg verhindern. Diese Herausforderungen werden durch das Konzept des KI-Engineerings adressiert, welches als neue Ingenieursdisziplin gilt. Sie bietet Methoden und Prozesse, um KI-Systeme effektiv, planbar und nachhaltig zu entwickeln, von der ersten Idee bis zum langfristigen Betrieb.

Dr. Constanze Hasterok legt ihren Schwerpunkt auf die nachhaltige und standardisierte Entwicklung industrieller KI-Systeme. Dr.-Ing. Thomas Usländer trägt wesentlich zur Gestaltung des KI-Engineering bei und beschreibt es als systematische Herangehensweise zur Entwicklung und zum Betrieb von KI-Lösungen innerhalb komplexer Systeme. Diese Herangehensweise bezieht sich auf die Integration von Datenräumen, offenen Systemarchitekturen und der Plattformökonomie in der Industrie.

Strukturierter Ansatz des KI-Engineerings

KI-Engineering verfolgt einen strukturierten Ansatz, dessen Hauptmerkmale die frühe systematische Definition von KI-Systemen sowie deren Rolle im Gesamtsystem umfassen. Hierbei wird Datenqualität als zentrales Element betrachtet, da Daten als eigenständige Systemkomponenten mit klar definierten Qualitätsanforderungen betrachtet werden. Zudem wird Wert auf Transparenz, Wartbarkeit und Zuverlässigkeit gelegt, um einen planbaren Übergang vom Prototyp in das produktive System zu gewährleisten. Dieser systematische Ansatz ist entscheidend für den Erfolg von industriellen KI-Projekten, da er die Abhängigkeiten zwischen Daten, Prozessen und regulatorischen Anforderungen von der Planung bis zur Implementierung respektiert und integriert.

Das PAISE®-Vorgehensmodell für KI-Systeme

Im Workshop wurde das PAISE®-Vorgehensmodell (Process Model for AI Systems Engineering) vorgestellt. Dieses Modell verbindet klassische Ingenieursmethoden mit agilen Ansätzen für die Entwicklung von KI. Es beschreibt, wie KI-Systeme erfolgreich von der Konzeptualisierung bis zum operativen Betrieb umgesetzt werden können.

Sechs Phasen des PAISE®-Modells

Das PAISE®-Modell umfasst sechs zentrale Phasen, die einen strukturierten Rahmen für die Entwicklung industrieller KI-Systeme bieten:

1. Problem- und Zieldefinition: In dieser Phase wird die Anwendung, der Nutzen sowie die Anforderungen und der Kontext geklärt.
2. Funktionale Dekomposition: Hier wird das Gesamtsystem in seine einzelnen Komponenten zerlegt, wodurch KI-Funktionen und Datenquellen klar definiert werden.
3. Komponentenspezifikation: In dieser Phase werden die detaillierten Funktionen und Schnittstellen aller Komponenten festgelegt. Dies bildet die Basis für die Entwicklung, Integration und Qualitätssicherung.
4. Entwicklungszyklus:
   • Aufbau und Analyse der Datenbasis: Hier wird die Qualität der Daten, deren Umfang und Repräsentativität bewertet, um potenzielle Verzerrungen zu erkennen.
   • Entwicklung und Training der KI-Komponenten: Diese Phase beinhaltet das Training und die Validierung der KI-Modelle unter Berücksichtigung ihrer Robustheit und Erklärbarkeit.
5. Übergabe: Die Übergabe an Kunden erfolgt, und die technische Einbettung in die endgültige IT- oder Produktionsumgebung wird geplant.
6. Betrieb und Wartung: In dieser Phase wird die kontinuierliche Überwachung und Wartung sichergestellt, um Verfälschungen und notwendige Anpassungen rechtzeitig zu erkennen.

Relevanz des PAISE®-Modells

Das PAISE®-Modell ist besonders relevant, da es mehrere zentrale Herausforderungen adressiert, mit denen industrielle KI-Projekte konfrontiert sind. Dazu gehören die schwer planbare Leistungsfähigkeit von Machine Learning (ML)-Komponenten, die Datenknappheit in frühen Projektphasen sowie die methodische Einbindung regulatorischer Anforderungen wie dem AI-Act. Durch die gezielte Anwendung des PAISE®-Modells können Unternehmen sicherstellen, dass ihre KI-Projekte nicht nur technisch fundiert sind, sondern auch allen regulatorischen Vorgaben entsprechen, was zur Vermeidung von Risiken und rechtlichem Ärger beiträgt.

Praxisbeispiel: Anwendung des PAISE®-Modells

Im Workshop wurde das PAISE®-Modell an einem realen Anwendungsbeispiel aus der Lebensmittelproduktion verdeutlicht. Ziel war die Prognose der Qualität einer Tiefkühlpizza während des Herstellungsprozesses unter Zuhilfenahme von KI. Die Teilnehmenden arbeiteten zusammen, um relevante Einflussgrößen wie Teigbeschaffenheit, Backzeit, Temperatur und sensorische Daten zu identifizieren. Durch die funktionale Zerlegung des Systems wurden geeignete Datenquellen entdeckt, und erste Schritte für die Weiterentwicklung wurden definiert, indem die Prinzipien des PAISE®-Ansatzes konsequent angewendet wurden.

EU AI-Act: Regulatorische Anforderungen als Innovationsfaktor

Neben den technischen Herausforderungen müssen Unternehmen auch regulatorische Anforderungen berücksichtigen. Der EU AI-Act schafft einen europäischen verbindlichen Rahmen für Sicherheit, Transparenz und den ethischen Einsatz von KI. Diese Verordnung verfolgt mehrere zentrale Ziele: den Schutz der Grundrechte, die Stärkung von Vertrauen und Wettbewerbsfähigkeit sowie die Minimierung von Risiken, die aus fehlerhaften oder undurchsichtigen KI-Anwendungen resultieren.

Risikokategorien des AI-Acts

Die Verordnung unterscheidet vier Risikokategorien, die für Unternehmen von Bedeutung sind:

• Minimales Risiko – Anwendungen wie in Spielen oder einfachen Automatisierungen, für die keine spezifischen Anforderungen bestehen.
• Geringes Risiko – z. B. Chatbots oder Empfehlungssysteme, bei denen Transparenzanforderungen gelten.
• Hohes Risiko – AI-Anwendungen in kritischen Bereichen wie Gesundheit, Infrastruktur oder Personalmanagement, wo strenge Anforderungen an Dokumentation und Überwachung gelten.
• Unannehmbares Risiko – wie Social Scoring oder manipulative Echtzeitüberwachung; der Einsatz solcher Anwendungen ist vollständig untersagt.

Unternehmen sind angehalten, frühzeitig zu klären, in welche Risikokategorie ihre KI-Anwendung eingeordnet werden kann. Das KI-Engineering bietet dabei die Methodik, um alle technischen, organisatorischen und regulatorischen Anforderungen von Anfang an zu integrieren.

Fazit: Der Weg zu erfolgreichen KI-Anwendungen

Zwei Achsen für den Erfolg

Der Weg zu erfolgreichen KI-Anwendungen verläuft entlang zweier Achsen: Die erste ist technische Exzellenz durch KI-Engineering, welches Struktur, Datenstrategie, Qualitätsmanagement und nachhaltigen Betrieb umfasst. Die zweite Achse ist die regulatorische Sicherheit durch den AI-Act, die Vertrauen, Transparenz sowie Risikomanagement einschließt. Unternehmen, die beide Perspektiven bereits zu Beginn zusammenführen, entwickeln nicht nur funktionierende KI-Systeme, sondern schaffen zudem nachhaltige, vertrauenswürdige und wirtschaftlich erfolgreiche Lösungen.

Zusätzliche Informationen provides: Für Interessierte finden sich auf der Website des Fraunhofer IOSB unter „KI-Anwendungen jenseits des Prototyps“ weiterführende Möglichkeiten. Dort wird auch das zweitägige Seminar „KI-Projektmanagement – Wie gelangt KI in den produktiven Einsatz?“ angeboten, inklusive relevanter Kontakte.

Über den EDIH-AICS

Der European Digital Innovation Hub Applied Artificial Intelligence and CyberSecurity (EDIH-AICS) engagiert sich dafür, Künstliche Intelligenz und Cybersicherheit in Bereichen wie Produktion, Mobilität, Energie, Handel und Dienstleistungen sowie in kommunalen Einrichtungen in ganz Europa zu fördern. In Kooperation mit erstklassigen Partnern aus der TechnologieRegion Karlsruhe unterstützt das CyberForum kleine und mittelständische Unternehmen (KMU), Startups und öffentliche Organisationen bei ihrer digitalen Transformation.

Das Projekt erhält Förderung im Rahmen des Digital Europe-Programms der Europäischen Union, unter der Grant Agreement Nummer 101083994.