Genesys-Studie: Aufstieg von KI-Agenten und Governance-Lücken
Die Herausforderungen der Governance in der KI-Nutzung
Die aktuelle Studie von Genesys zeigt auf, dass es bei der Integration von Künstlicher Intelligenz (KI) in Unternehmen erhebliche Diskrepanzen zwischen den Erwartungen der Verbraucher und der tatsächlichen Governance-Praxis gibt. Der Bedarf an klaren Rahmenbedingungen für die Nutzung von KI ist explizit: Vier von fünf Verbrauchern fordern eine transparente Governance für KI-Interaktionen, während weniger als ein Drittel der Unternehmen in der Lage ist, umfassende Richtlinien und Kontrollen zur Verfügung zu stellen. Diese Lücke stellt eine ernsthafte Herausforderung dar, insbesondere vor dem Hintergrund, dass agentenbasierte KI zunehmend Bestandteil der Strategien für Kundenerlebnisse (CX) wird.
Agentenbasierte KI umfasst Systeme, die autonom Entscheidungen treffen und entsprechend handeln können. Diese Technologien bieten die Möglichkeit, Dienstleistungen schneller und individueller anzubieten, was von 91 Prozent der CX-Führungskräfte als Vorteil gesehen wird. Trotz dieser positiven Einschätzung zeigt die Realität, dass viele Unternehmen in der Governance hinterherhinken, was potenzielle Risiken sowohl für das Verbrauchervertrauen als auch für die Markensicherheit mit sich bringt. Es ist unverzichtbar, dass Unternehmen ebenso innovativ in der Entwicklung wie in der Regulierung ihrer KI-Anwendungen sind, wenn sie Nachhaltigkeit und Verbrauchervertrauen anstreben möchten.
Verbraucherbedenken und Governance-Lücken
Die Studie legt nahe, dass viele Unternehmen sich der Wichtigkeit einer starken Governance bewusst sind. Über 90 Prozent der CX-Führungskräfte betonen, dass eine solide Governance entscheidend ist, um den Ruf der Marke zu schützen, Vertrauen aufzubauen und das Wohlbefinden der Verbraucher in Bezug auf autonome Systeme zu fördern. Trotz dieses Bewusstseins geben 35 Prozent der Führungskräfte zu, dass ihre Unternehmen kaum oder gar keine Governance-Richtlinien implementiert haben. Schockierenderweise glauben 28 Prozent der Befragten, die über keine Richtlinien verfügen, dass ihr Unternehmen dennoch für den Einsatz agentenbasierter KI bereit ist, was auf eine gefährliche Unterschätzung der damit verbundenen Risiken hinweist.
Diese Unsicherheiten zwischen der Wahrnehmung von Führungskräften und der Realität verdeutlichen die Notwendigkeit einer verstärkten Transparenz und eindeutiger Kontrollen. Insbesondere belasten Verbraucherskepsis und Mangel an Informationen zur Datenverwendung das Vertrauen in KI-Systeme. Wichtige Anliegen der Verbraucher betreffen insbesondere, wie ihre Daten verwendet werden, da 37 Prozent der Befragten der Meinung sind, dass KI „halluziniere” oder falsche Informationen erzeugt. Neben dem Vertrauen könnte dies auch zu rechtlichen Auseinandersetzungen und einem Schaden für den Markenruf führen.
Vertrauenskultur in der Nutzung von Künstlicher Intelligenz
Die Untersuchung zeigt eine signifikante Diskrepanz zwischen der Haltung von CX-Führungskräften zu agentenbasierter KI und den Bedenken der Verbraucher. Während 81 Prozent der CX-Führungskräfte dazu bereit sind, sensible Kundendaten diesen Technologien anzuvertrauen, fühlen sich nur 36 Prozent der Verbraucher wohl dabei. Diese Kluft wird besonders deutlich in sicherheitskritischen Situationen, wie etwa finanziellen Transaktionen. Obwohl 74 Prozent der Unternehmen agentenbasierte KI ohne Bedenken für Rechnungsstellung und Kontosicherheit einsetzen, ist lediglich ein Drittel der Verbraucher bereit, derartige Aufgaben von KI durchführen zu lassen.
Die Ergebnisse zeigen jedoch auch positive Ansätze: Über die Hälfte der Verbraucher (58 Prozent) ist der Meinung, dass es keinen Unterschied macht, ob ihre Anliegen von einem Menschen oder einer KI bearbeitet werden, solange die Lösung schnell und effizient erfolgt. Dies deutet darauf hin, dass eine Kombination aus effektiven Lösungen und transparenter Informationspolitik das Verbrauchervertrauen positiv beeinflussen kann. Unternehmen müssen daher verstärkt auf verbraucherorientierte Ansätze setzen, um sowohl Vertrauen zu gewinnen als auch Innovationspotenziale zu erschließen.
Der Weg zu einer verantwortungsvollen KI-Nutzung
Die Ergebnisse der Genesys-Studie verdeutlichen den dringenden Bedarf an klaren Governance-Strukturen im Bereich der Künstlichen Intelligenz. Für viele Kunden bleibt das Vertrauen in KI fragil, und die Diskrepanz zwischen deren Erwartungen und der Realität in vielen Unternehmen könnte langfristige Folgen haben. Um dem entgegenzuwirken, müssen Strategien entwickelt werden, die Transparenz und Verantwortung in die Nutzung von agentenbasierter KI integrieren. Es ist unabdingbar, dass Unternehmen die von Verbrauchern erwarteten Standards erfüllen, um eine Kultur des Vertrauens aufzubauen und den vollen Nutzen aus den Möglichkeiten der KI zu ziehen.
Der ganzheitliche Ansatz zum Management und zur Nutzung von KI erfordert nicht nur technologische Fortschritte, sondern auch eine engagierte Auseinandersetzung mit den ethischen und sozialen Implikationen. Eine proaktive Haltung zur Governance von KI-Anwendungen wird entscheidend sein, um das Vertrauen der Verbraucher langfristig zu sichern und gleichzeitig mögliche Risiken zu minimieren.
Fazit: Die Notwendigkeit einer klaren Governance
Zusammenfassend lässt sich festhalten, dass die von Genesys durchgeführte Studie sowohl Chancen als auch Herausforderungen für Unternehmen aufzeigt, die Künstliche Intelligenz in ihren Kundenservice integrieren möchten. Die Kluft zwischen den Erwartungen der Verbraucher an Governance und den tatsächlichen Richtlinien der Unternehmen erfordert dringendes Handeln, um Vertrauen zu schaffen und langfristige Bindungen zu etablieren. Eine transparente und verantwortungsvolle Nutzung von agentenbasierter KI wird nicht nur als Wettbewerbsvorteil erachtet, sondern ist auch essenziell für die Sicherstellung des Verbraucherschutzes und des Markenrufs.