Agentenbasierte KI: Fehlende Governance untergräbt Vertrauen
KI-Richtlinien
Agentenbasierte KI: Governance-Lücken gefährden Verbrauchervertrauen
Eine neue Umfrage von Genesys zeigt, dass vier von fünf Verbrauchern eine klare Governance für KI-Interaktionen fordern. Allerdings verfügen nur ein Drittel der Unternehmen über entsprechende Richtlinien. 91 Prozent der Befragten glauben, dass agentenbasierte KI die Effizienz im Kundenservice verbessert.
Umfrageergebnisse und Diskrepanzen
Eine aktuelle Umfrage von Genesys hat signifikante Ergebnisse bezüglich der Implementierung und Governance von Künstlicher Intelligenz (KI) in Unternehmen hervorgebracht. Während 80 Prozent der Verbraucher eine klare Richtlinienstruktur für den Umgang mit KI-Interaktionen fordern, geben lediglich 30 Prozent der Unternehmen an, über umfassende KI-Richtlinien und -Kontrollen zu verfügen. Diese Diskrepanz kann erhebliche Auswirkungen auf das Verbrauchervertrauen haben, da agentenbasierte KI an Bedeutung gewinnt. Solche Systeme sind autonom und helfen Unternehmen, Kundenservices effektiver zu gestalten.
Auch wenn 91 Prozent der befragten Unternehmen die Vorteile von agentenbasierter KI für einen besseren und personifizierten Kundenservice anerkennen, zeigt die Realität, dass viele Unternehmen in dieser Hinsicht hinterherhinken. Solche Governance-Lücken können sich negativ auf das Verbrauchervertrauen auswirken, die Markenreputation schädigen und zu Schwierigkeiten bei der Einhaltung von Vorschriften führen.
Verbraucherskepsis und Governance-Lücken
Die Umfrage zeigt, dass mehr als 90 Prozent der Befragten, die im Bereich Customer Experience (CX) tätig sind, der Meinung sind, dass eine starke Governance entscheidend für den Markenschutz ist. 91 Prozent betonen die Wichtigkeit von langfristigem Vertrauen und Loyalität der Kunden, während 90 Prozent das Wohlbefinden der Verbraucher unterstreichen. Trotz dieser Übereinstimmung fühlen sich viele Unternehmen jedoch unzureichend vorbereitet, zumal 35 Prozent der CX-Führungskräfte angeben, kaum oder gar keine formalen Governance-Richtlinien zu haben. Besonders alarmierend ist, dass 28 Prozent der Befragten ohne Richtlinien glauben, ihr Unternehmen sei für agentenbasierte KI bereit.
Diese Governance-Lücke ist umso bedenklicher, wenn man die Bedenken der Verbraucher in Betracht zieht. Viele Kunden äußern sich skeptisch über die Transparenz des Datenumgangs und die Kontrolle über ihre personenbezogenen Daten. Tatsächlich war der Mangel an Klarheit über die Verwendung ihrer Daten das größte Anliegen unter den Befragten.
Risiken durch ungenaue KI-Aussagen
Zudem glauben 37 Prozent der Verbraucher, dass KI „halluziniert“ oder falsche Informationen generiert – eine Ansicht, die von 59 Prozent der CX-Führungskräfte geteilt wird. Diese Wahrnehmung führt zu ernsthaften Risiken für die Kundenbindung und die Markenreputation. Die wahrgenommene Unzuverlässigkeit von KI-Systemen unterminiert das Vertrauen der Verbraucher zusätzlich und verdeutlicht die Notwendigkeit, Garantien für Genauigkeit und Verantwortlichkeit bei KI-gestützten Kundenerfahrungen zu bieten.
Die Kluft zwischen dem, was Führungskräfte als notwendig erachten, und den tatsächlichen Umsetzungen in Unternehmen ist alarmierend. Die klaren Forderungen der Verbraucher nach Transparenz und Kontrolle sind häufig nicht erfüllt, was bedeutet, dass Unternehmen dringend die Notwendigkeit erkennen müssen, diese Lücke zu schließen, bevor sie agentenbasierte KI in großem Umfang übernehmen.
Unterschiedliches Vertrauen in KI und Menschen
Trotz der Bereitschaft von 81 Prozent der CX-Führungskräfte, sensiblen Kundendaten an agentenbasierte KI zu übergeben, zeigen nur 36 Prozent der Verbraucher entsprechende Bereitschaft. Diese Diskrepanz wird besonders deutlich in sensiblen Bereichen wie der Rechnungsstellung oder Finanztransaktionen. Während 74 Prozent der Unternehmen angeben, agentenbasierte KI ohne Bedenken für solche kritischen Funktionen einzusetzen, sind Verbraucher viel zurückhaltender. Nur 35 Prozent sind bereit, dieser Technologie Geldtransfers zuzüglich 49 Prozent für die Bearbeitung von Rechnungsangelegenheiten und 50 Prozent für die Aktualisierung persönlicher Daten zu vertrauen.
Fazit: Maßnahmen zur Vertrauensbildung sind notwendig
Die Umfrageergebnisse von Genesys zeigen, dass eine signifikante Mehrheit der Verbraucher Effizienz und Effektivität in der Kundenbetreuung als wichtig erachtet, solange diese Ansprüche transparent und nachvollziehbar sind. Über 58 Prozent der Teilnehmer sind bereit, dem Einsatz von KI zuzustimmen, sofern ihre Anliegen schnell und zuverlässig bearbeitet werden. Diese Erkenntnis bietet Unternehmen die Gelegenheit, Skepsis zu überwinden, indem sie verantwortungsbewusste Innovationen anstreben und gleichzeitig auf die von Verbrauchern geforderten Standards in puncto Transparenz eingehen. Die Herausforderungen sind groß, doch durch gezielte Maßnahmen könnten Unternehmen das Vertrauen der Verbraucher zurückgewinnen und somit den Weg für eine erfolgreiche Implementierung von agentenbasierter KI ebnen.