Leitlinien für demokratische KI: Governance und Abwägung nötig
Einführung in die Debatte um Künstliche Intelligenz
Die Diskussion über den Einsatz von Künstlicher Intelligenz (KI) sollte nicht allein großen Technologieunternehmen überlassen werden. Dieser Grundsatz hat zahlreiche Organisationen aus der deutschen Zivilgesellschaft vereint, um ein Zeichen zu setzen. Mehr als 75 Organisationen haben den von D64 – Zentrum für Digitalen Fortschritt – initiierten Code of Conduct „Demokratische KI“ unterzeichnet. Es handelt sich hierbei um eine Selbstverpflichtung zur verantwortungsvollen Nutzung von KI, die die Diversität der Zivilgesellschaft widerspiegelt. Diese Initiative stellt einen klaren Appell dar, ethische Standards im Umgang mit Künstlicher Intelligenz zu fördern und sicherzustellen, dass diese Technologien im Sinne des Gemeinwohls eingesetzt werden.
Der aktuell zunehmende Widerstand gegen eine undifferenzierte Anwendung von Künstlicher Intelligenz verdeutlicht die Sorgen und Bedenken, die sowohl in der Gesellschaft als auch in der Wirtschaft bestehen. Während KI in bestimmten Bereichen durchaus Vorteile bringen kann, zeigt sich ebenso, dass unreflektierter Einsatz zu Problemen führen kann.
Agentic AI: Ein neuer Trend im Kundenservice
Eine Umfrage des Unternehmens Spitch, das in der Schweiz Sprachdialogsysteme anbietet, zeigt, dass KI-Agenten, die autonom agieren, zunehmend als Megatrend im Kundenservice wahrgenommen werden. Von 100 befragten Führungskräften aus Unternehmen, die Contact Center betreiben, glauben 68 Prozent, dass Agentic AI eine bedeutende Entwicklung darstellt. Die Befragung zeigt, dass 70 Prozent der Unternehmen eigene Kommunikationszentren betreiben, während 30 Prozent diese Dienste an externe Anbieter ausgelagert haben.
Agentic AI bezieht sich auf KI-Systeme, die selbstständig komplexe Aufgaben in einzelne Schritte zerlegen und diese autonom bearbeiten können. Diese Technologie wird vor allem bei modernen Sprachdialogsystemen verwendet, um Kundenanfragen effizient zu beantworten. Der anfängliche Skepsis gegenüber KI-Lösungen im Kundenservice scheint verflogen zu sein. 77 Prozent der Unternehmen sind überzeugt, dass Agentic AI die Kundenkommunikation revolutionieren wird. Fast die Hälfte der Befragten ist sogar sicher, dass sich Agentic AI langfristig als Standard etablieren wird.
Vorteile der Agentic AI für Unternehmen
Die Umfrage verdeutlicht, dass die Implementierung von Agentic AI als strategisches Signal für Innovationskraft gewertet wird. 93 Prozent der Führungskräfte sehen einen hohen Wert in der Wahrnehmung innovativer Technologien. Zudem werden durch Agentic AI zahlreiche Vorteile für die Wettbewerbsfähigkeit von Unternehmen erkannt, wobei 36 Prozent der Befragten dieser Technologie einen entscheidenden Beitrag zur Wettbewerbsfähigkeit zuschreiben.
Die Vorteile erstrecken sich auf verschiedene Aspekte, wie zum Beispiel die flexible Skalierbarkeit bei einem erhöhten Anfragevolumen oder in Zeiten saisonaler Spitzen. Des Weiteren heben 50 Prozent der Befragten die durchgängige Erreichbarkeit ohne zusätzliches Personal hervor. Diese Einschätzungen verdeutlichen, dass Agentic AI nicht nur als Kostenfaktor, sondern auch als strategisches Instrument zur Verbesserung der Servicequalität betrachtet wird.
Herausforderungen und Skepsis gegenüber KI-Lösungen
Die Diskussion zur Implementierung von KI im Kundenservice bleibt jedoch nicht ohne kritische Stimmen. Berichte zeigen, dass viele Verbraucher wenig Vertrauen in den Umgang von Unternehmen mit ihren persönlichen Daten haben. Laut einer Studie von Qualtrics, an der 20.000 Personen in 14 Ländern befragt wurden, vertrauen nur 39 Prozent der Verbraucher den Unternehmen. Diese Skepsis spiegelt sich auch in der Wahrnehmung von KI im Kundenservice wider, wo die Enttäuschungsrate viermal höher ist als bei anderen Anwendungen.
Ein zentrales Problem besteht darin, dass viele Unternehmen KI-Technologien oft nutzen, um Kosten zu sparen, ohne sich auf die Lösung tatsächlicher Kundenprobleme zu konzentrieren. Dies führt dazu, dass viele Nutzer der Meinung sind, dass KI im Kundenservice nicht die gewünschte Qualität liefert. Die Bedenken hinsichtlich des Missbrauchs persönlicher Daten sind weiter gestiegen, wobei 53 Prozent der Befragten in der Qualtrics-Studie diese Sorge äußern. Diese Misstrauen kann ein ernsthaftes Hindernis für die Akzeptanz von KI-basierten Lösungen darstellen.
Initiativen zur verantwortungsvollen KI-Nutzung
Um den Herausforderungen im Bereich der Künstlichen Intelligenz entgegenzuwirken, wurde der Code of Conduct „Demokratische KI“ ins Leben gerufen. Mehr als 75 Organisationen aus der Zivilgesellschaft haben diesen unterzeichnet. Dieser Code stellt eine Selbstverpflichtung dar, die darauf abzielt, Künstliche Intelligenz verantwortungsvoll und gemeinwohlorientiert einzusetzen.
Zu den Unterzeichnern zählen unter anderem Organisationen wie die Arbeiterwohlfahrt und der Naturschutzbund Deutschland. Der Code basiert auf acht Grundprinzipien, die den verantwortungsvollen Umgang mit KI definieren, darunter Menschenzentrierung, Transparenz und diskriminierungsfreie Perspektiven. Diese Selbstverpflichtung bietet einen Rahmen für Organisationen, die KI-Technologien nutzen oder darauf verzichten möchten, und zielt darauf ab, diese Technologien in einer Art und Weise zu gestalten, die die Teilhabe und das Wohl der Gesellschaft fördert.
Fazit: Ein Aufruf zur ethischen Verantwortung
Die Entwicklungen und Herausforderungen rund um Künstliche Intelligenz zeigen deutlich, dass eine kritische und verantwortungsvolle Auseinandersetzung mit dieser Technologie notwendig ist. Es gilt, die Chancen zu erkennen und gleichzeitig die Risiken zu minimieren. Insbesondere müssen ethische Standards und Transparenz im Umgang mit KI gefördert werden, um das Vertrauen der Verbraucher zurückzugewinnen und eine nachhaltige digitale Zukunft zu gewährleisten.