Vertrauenswürdige KI: Alles was Sie dazu wissen müssen | Cognigy

Explainable AI: Vertrauenswürdiger Einsatz Künstlicher Intelligenz in der Kundenservice-Automation

Was man über “Explainable AI” und die Etablierung vertrauenswürdiger KI anhand des AIC4-Kriterienkatalogs wissen muss - allgemein sowie speziell für den Bereich Kundenservice-Automatisierung

Inhaltsverzeichnis:

Die wichtigsten Begriffe dieses Artikels, verständlich erklärt

AIC4 Der Kriterienkatalog AIC4 (Artificial Intelligence Cloud Service Compliance Criteria Catalogue) spezifiziert Mindestanforderungen an die sichere Verwendung von Methoden des maschinellen Lernens in Cloud-Diensten.

Bias Bias beschreibt einen systematischen Fehler, der entweder durch eine unzureichende Datenlage oder durch Urteilsfehler entstehen kann. Kognitiv verzerrte Machine Learning Modelle können dazu führen, dass bestimmte Personengruppen diskriminiert werden.

BSI Das Bundesamt für Sicherheit in der Informationstechnik (BSI) ist die Cyber-Sicherheitsbehörde des Bundes und Gestalter einer sicheren Digitalisierung in Deutschland. Der AIC4-Kriterienkatalog wurde maßgeblich vom BSI mitentwickelt.

C5 Der Kriterienkatalog C5 (Cloud Computing Compliance Criteria Catalogue) spezifiziert Mindestanforderungen an sicheres Cloud Computing und richtet sich in erster Linie an professionelle Cloud-Anbieter, deren Prüfer und Kunden.

Cognigy.AI Mit der Conversational AI Plattform Cognigy.AI können Unternehmen intelligente Sprach- und Chatbots in der gesamten Organisation einsetzen und so ihre Kunden- / Mitarbeiterkommunikation an allen Kontaktpunkten automatisieren.

Conversational AI Conversational AI ist ein Sammelbegriff für Technologien, die in der Lage sind, mit Usern zu kommunizieren. Dazu gehören z. B. Phone- und Chatbots sowie Sprachassistenten. Sie nutzen große Datenmengen, um mithilfe von Methoden des maschinellen Lernens natürliche Sprach- und Texteingaben zu erkennen, zu interpretieren und (in verschiedenen Sprachen) mit Usern zu interagieren.

Explainable AI Explainable AI ist ein Konzept, das Methoden der Künstlichen Intelligenz, z. B. neuronale Netze oder Deep-Learning-Systeme, erklärbar und nachvollziehbar macht. Es soll u.a. die sog. “Black Box” Problematik lösen, in der nicht eindeutig erklärt werden kann, wie ein Machine Learning Modell zu einer konkreten Entscheidung gelangt. Die Notwendigkeit nach erklärbarer - und damit vertrauenswürdiger - Künstlicher Intelligenz ist ein wichtiges Handlungsfeld des AIC4-Katalogs.

NLP Natural Language Processing (NLP), also die maschinelle Verarbeitung natürlicher Sprache, versetzt Computer in die Lage, menschliche Sprache zu verstehen und zu interpretieren.

NLU Natural Language Understanding (NLU) ist ein Teilgebiet von NLP, das sich explizit mit dem Verständnis menschlicher Sprache auseinandersetzt. Dabei geht es vor allem um Nuancen wie den Kontext, die Stimmung (sog. “Sentiment”) und die Syntax.

PwC PricewaterhouseCoopers (PwC) ist Deutschlands führende Wirtschaftsprüfungs- und Beratungsgesellschaft. Das Unternehmen auditiert KI-Dienste im Rahmen des AIC4-Kriterienkatalogs und stellt objektive Prüfberichte zur Verfügung.

Was dich in diesem Artikel erwartet

Dieser Artikel dient Entscheider:innen aus den Bereichen Customer Service und Compliance als umsetzungsorientierter Leitfaden zum Thema “vertrauenswürdige Künstliche Intelligenz” (Trustworthly AI). Er baut auf den Bestrebungen der Europäischen Union auf, ethische Rahmenbedingungen für die Entwicklung und den Einsatz von cloudbasierten KI-Anwendungen zu formulieren und diese mithilfe eines Audits, dem Artificial Intelligence Cloud Services Compliance Criteria Catalogue (AIC4), in der Wirtschaft zu etablieren.

Gerade im Bereich der Kundenservice-Automatisierung spielt das Thema “Explainable AI” - also u.a. die Herstellung von Vertrauenswürdigkeit und Nachvollziehbarkeit - eine besondere Rolle, da ein unmittelbarer Kundendialog mit der KI Anwendung stattfindet. Unternehmen sollten daher Conversational AI Anwendungen wählen, die sämtliche Handlungsfelder des AIC4-Katalogs erfüllen. Nur so kann ein zukunftssicherer Einsatz gewährleistet werden.

Das Whitepaper steht zum kostenfreien Download zur Verfügung: [Whitepaper downloaden](/content/cs/c/?cta_guid=c682e081-4a06-435d-b0f4-4d271a013e21&signature=AAH58kG_4oNGR2DJVVo3LL-bqHpeWZC0fg&portal_id=2761836&pageId=48862204037&placement_guid=aeee7968-ab27-448b-9a25-4cd08bdccd2d&click=6f319940-5cf7-474c-aa41-6fc7c3f0ed0e&redirect_url=APefjpEKWkUfr-Pv-DGWjdrOuWpJIlnw5yyZm8F3hQ0Dky73HPdAoOz0BabNbAcXA_a-Jtk-lrn-Xk_FYg1kpgmOHgkBLC1AbILTTEkNBVT3jhot7ny6VSY4fnonhtf5dPqYzYvI8tGc&hsutk=&canon=https%3A%2F%2Fwww.cognigy.com%2Fde%2Fresources%2Fvertrauenswuerdige-ki&ts=1784307114048 "Whitepaper downloaden"/index.html)

Einleitung

Künstliche Intelligenz rückt mit zunehmender Geschwindigkeit in den Mittelpunkt der Digitalisierung. Sie bildet die Speerspitze des exponentiellen, technologischen Fortschritts und nimmt in Unternehmen und im privaten Umfeld immer mehr Raum ein. Kurzum: Technologien, die auf Methoden der künstlichen Intelligenz zurückgreifen, verändern unsere Gesellschaft grundlegend.

Diese Entwicklung bringt große Chancen mit sich: Das Wertschöpfungspotential in Unternehmen wird sich dadurch erhöhen, dass sich Mitarbeiter voll auf ihre Kernkompetenzen konzentrieren können, während Maschinen enervierende, repetitive Aufgaben übernehmen. Verbraucher erhalten schnelleren und direkteren Zugang zu Informationen oder Dienstleistungen. Sprachbarrieren werden reduziert und Krankheiten früher erkannt.

Welche positiven Effekte der praktische Einsatz Künstlicher Intelligenz bewirken kann, zeigt sich besonders im Teilgebiet der intelligenten, automatisierten Abwicklung von Konversationen, auch “Conversational AI” genannt. Führende Unternehmen wie z. B. die Deutsche Telekom AG, Daimler, Lufthansa, Biontech oder Bosch setzen sogenannte virtuelle Assistenten bereits heute ein, um die Kommunikation mit ihren Kunden zu verbessern und den eigenen Mitarbeitern smarte, lösungsorientierte Helfer an die Seite zu stellen.

Die Automatisierung ist dabei eine Win-Win-Situation für Endverbraucher und Unternehmen. Laut einer Hubspot Studie werden 93 % der Kunden erneut zu Käufern, wenn sie einen schnellen und zuverlässigen Kundenservice erleben. McKinsey hat darüber hinaus beobachtet, dass das Mitarbeiter-Engagement um ca. 20 % steigt, wenn unternehmensseitig eine Verbesserung des Kundenerlebnisses im Servicebereich stattfindet (z. B. durch die Unterstützung durch virtuelle Agenten). Insgesamt haben die positiven Effekte von KI-Technologien also einen überproportional großen Wertschöpfungsfaktor.

Wenn heute die Rede von Künstlicher Intelligenz ist, dann sind häufig die Fortschritte im Bereich Machine Learning und dessen Teilgebiet der neuronalen Netze gemeint. Gemeinsam mit der Zunahme der Leistungsfähigkeit von Computern ermöglichen sie ungeordnete Daten schneller zu durchdringen, zu kontextualisieren und informationelle Mehrwerte für bestimmte Zielgruppen zu erzeugen.

Der Phone-Bot: Telefonsupport der neuen Generation

Viele Konsumenten nutzen bereits die komfortable Möglichkeit, Kontakt zu Unternehmen über Chatbots aufzunehmen. Dabei werden viele Kundenanfragen automatisiert beantwortet. Neu hingegen ist, dass sich diese Technik auch im Kundenservice am Telefon anwenden lässt. Per Cognigy.AI bereitgestellte Phone-Bots können telefonische Anfragen verstehen und mehrsprachige Telefonate führen.

Abgesehen von diesem konkreten Beispiel lassen sich die Fortschritte im Bereich der künstlichen Intelligenz auf viele Bereiche unseres Alltags anwenden und ersetzen etablierte, konventionelle Technologien Schritt für Schritt.

Es liegt auf der Hand, dass diese Entwicklung auch zu Spannungen und Reibungsverlusten führt. Ein wesentlicher Faktor dabei sind die verfügbaren Daten, die zur (teilweise selbstständigen) Evolution von KI-Technologien zwingend benötigt werden. Neben der Frage nach dem Eigentum und der Nutzung dieser Daten ergeben sich daraus auch weitreichende ethische, rechtliche Fragen und natürlich Fragen der IT-Sicherheit.

Der Einsatz Künstlicher Intelligenz in der direkten Mensch-Maschine-Kommunikation wirft besonders viele Fragestellungen auf: Werden die mitgeteilten Informationen vertraulich und sicher behandelt? Sind die Entscheidungswege des virtuellen Agenten nachvollziehbar (explainable AI)? Werden alle Benutzer gleich behandelt oder ist die KI - bewusst oder unbewusst - von bestimmten kognitiven Verzerrungen (sog. KI-Bias) ihrer Entwickler oder der Trainingsdaten beeinflusst?

Da der Wandel im Bereich der Künstlichen Intelligenz so schnell voranschreitet, gibt es in den meisten Ländern zu den ethischen und rechtlichen Fragen noch keine eindeutigen Regelungen oder Gesetze. Hinzu kommt, dass KI-Anwendungen häufig auf hochkomplexen Modellen basieren, die Anwender in der Regel nicht nachvollziehen können.

All das führt zu einer großen Nachfrage nach Vertrauenswürdigkeit, Prüfbarkeit und Regulierung von KI-Anwendungen. Nicht nur Verbraucher fordern entsprechende Schritte, auch Unternehmen, die KI in ihren Geschäftsbereichen einsetzen möchten, sind darauf angewiesen, dass Anwendungen den eigenen Qualitätsmaßstäben entsprechen.

Was ist vertrauenswürdige bzw. explainable AI?

Die Entwicklung und Wahrnehmung vieler KI-Anwendungen durchläuft einen sogenannten “Hypecycle”, wie ihn z. B. das Marktforschungsunternehmen Gartner skizziert. Zu Beginn löst eine neue Technologie einen Trend aus, der schnell zum Hype werden kann. Während in der Hype-Phase eine Überschätzung der Technologie stattfindet und mögliche Zukunftsszenarien aufgezeigt werden, die sich noch nicht realisieren lassen, folgt nach einiger Zeit eine Rückbesinnung auf die Realität.

Unternehmen, die KI-Technologien einsetzen, stehen also vor der Herausforderung, die Grenzen des Machbaren mithilfe neuester Technologie zu verschieben und gleichzeitig Vertrauen für die eingesetzten (KI-) Dienste zu schaffen. Dieses Vertrauen ergibt sich unter anderem aus ethischen Rahmenbedingungen, die den Einsatz von KI im gesellschaftlichen Gesamtsystem definieren.

Gefahren nicht-vertrauenswürdiger KI

Eine ehrliche Auseinandersetzung mit Künstlicher Intelligenz beinhaltet auch immer die Betrachtung möglicher Gefahren, die von ihr ausgehen. Nur wenn potentielle Risiken klar benannt werden, lassen sich KI-Anwendungen so gestalten, dass von Anfang an mögliche Gefahren mit bedacht und eliminiert werden können.

KI-Anwendungen mithilfe des AI Cloud Service Compliance Criteria Catalogue (AIC4) auf Vertrauenswürdigkeit prüfen

Der AI Cloud Service Compliance Criteria Catalogue (AIC4) ist der weltweit erste konkrete Kriterienkatalog mit operationalisierbaren Anforderungen zur Prüfung von KI-Anwendungen, der von einer offiziellen, staatlichen Institution veröffentlicht wurde. Er enthält KI-spezifische Kriterien, die eine Bewertung der Vertrauenswürdigkeit und Erklärbarkeit (“explainable AI”) eines KI-Dienstes über seinen gesamten Lebenszyklus hinweg ermöglicht. Die Kriterien legen ein Basisniveau der Sicherheit fest, das durch unabhängige Auditoren zuverlässig bewertet werden kann.

Die 7 Handlungsfelder der Auditierung nach AIC4

Mit Stand Mai 2021 umfasst der AIC4 Kriterienkatalog sieben verschiedene Handlungsfelder, die die Mindestanforderungen für die Auditierung von KI-Anwendungen umfassen.

Die AIC4-Auditierung in der Praxis

Die gelebte Auditierungspraxis ist ein wichtiger Faktor für ein Engagement zum Einsatz vertrauenswürdiger KI-Anwendungen.

Vorteile vertrauenswürdiger KI im Bereich Customer Service

Neben der generellen Harmonisierung des deutschen - und zukünftig ggf. auch des internationalen - KI-Marktes schafft die AIC4-Auditierung die Grundlagen für eine Gesetzgebung bzw. KI-Regulierung auf EU-Ebene. Unternehmen, die sich frühzeitig mit den AIC4-Standards beschäftigen und ihre KI-Service-Provider dazu anhalten, sich auditieren zu lassen, können sich jetzt schon vor möglichen juristischen Konsequenzen schützen.

Die nachfolgende Aufstellung zeigt die wichtigsten Vorteile auf:

Trust als Image-Boost

Zukünftig wird das Label “AIC4-auditiert” zu einem Qualitätsmerkmal für KI-Dienste

Positive Beeinflussung der User Experience

AIC4 etabliert Standards im Bereich Performanz, Zuverlässigkeit, Datenqualität und KI-Bias.

Der ethischen Verantwortung gerecht werden

AIC4 basiert auf den Ethik-Richtlinien der EU zum Einsatz Künstlicher Intelligenz.

Gezieltere Auswahl des richtigen Contact Center Partners

AIC4 reduziert und vereinfacht die Auswahl geeigneter externer Dienstleister im Bereich Contact Center und schafft so einen exzellenten Auswahlprozess.

Compliance und sicherer Einsatz

Da einige Handlungsfelder der AIC4-Auditierung auf dem Cloud Computing Compliance Controls Catalog (C5) basieren, fügen sich auditierte KI-Dienste wie Cognigy.AI nahtlos in die Compliance-Richtlinien für SaaS-Anwendungen ein.