EU AI Act im Kundenservice: die Transparenzpflichten, kurz erklärt

Die KI-Verordnung der EU, Verordnung (EU) 2024/1689, ist seit dem 1. August 2024 in Kraft. Ihre Pflichten greifen gestaffelt. Die Transparenzpflichten aus Artikel 50 gelten nach Artikel 113 seit dem 2. August 2026.

Sie betreffen fast jeden Kundenservice, der KI im Dialog einsetzt. Dieser Beitrag fasst zusammen, was Artikel 50 verlangt, wer betroffen ist und wie sich die Pflichten in einem Contact Center abbilden lassen. Er ersetzt keine Rechtsberatung.

#Anbieter und Betreiber: wer welche Pflicht trägt

Die Verordnung unterscheidet zwei Rollen. Anbieter entwickeln ein KI-System oder bringen es unter eigenem Namen in Verkehr. Betreiber setzen es in eigener Verantwortung ein, etwa ein Versicherer, der einen Voicebot in seiner Hotline betreibt.

Im Kundenservice treffen beide Rollen aufeinander. Manche Pflichten liegen beim Anbieter der Plattform, andere beim Unternehmen, das den Bot einsetzt. Viele lassen sich nur gemeinsam erfüllen: Der Anbieter stellt die Funktion bereit, der Betreiber konfiguriert und nutzt sie.

#Die vier Pflichten aus Artikel 50

Absatz 5 regelt das Wie. Die Information muss klar und eindeutig erkennbar sein, spätestens bei der ersten Interaktion erfolgen und den geltenden Anforderungen an Barrierefreiheit entsprechen.

#Bots und Voicebots: Kennzeichnung im Dialog

Für Chatbots, Voicebots und KI-Agenten ist Absatz 1 der Kern. Wer mit ihnen spricht, muss erfahren, dass er mit einer KI interagiert. Auf die Ausnahme „offensichtlich“ sollte man sich im Kundenservice nicht verlassen: Ein gut gemachter Voicebot ist gerade nicht offensichtlich.

Formal richtet sich Absatz 1 an den Anbieter, der das System entsprechend gestalten muss. In der Praxis legen Betreiber die Texte fest. Wie eine Kennzeichnung klingt, die das Gespräch nicht stört, beschreibt KI kennzeichnen, ohne das Gespräch zu stören.

Service DE· aktiv

Warteschlangen

Telefon3 wartend

Chat5 wartend

E-Mail2 wartend

Messaging1 wartend

Gespräch

KI-Agent, gekennzeichnetÜbergabe vom KI-Agenten · Kontext vollständig

Ich habe den Bescheid bekommen, aber der Betrag passt nicht zum Antrag.

Ich sehe den Vorgang vor mir. Einen Moment, ich prüfe die Berechnung.

Stimmung: ruhigTelefon

Kontext

Vorgang

2026-0412

Verlauf

3 · 14 d

Univerx Assist

Antwortvorschlag

Der Bescheid weicht vom Antrag ab. Ich schlage eine Korrektur vor und sende Ihnen die Bestätigung per Nachricht.

EinfügenÜbernehmen

Zusammenfassung

Anliegen: Abweichung im Bescheid. Dokumente liegen vor. Nächster Schritt: Korrektur, Bestätigung per Nachricht.

#Generierte Inhalte: Kennzeichnung im Datenformat

Absatz 2 betrifft synthetische Inhalte, also auch generierte Sprache eines Voicebots und generierte Texte. Sie müssen in einem maschinenlesbaren Format als künstlich erzeugt erkennbar sein.

Für Systeme, die schon vor dem 2. August 2026 im Markt waren, gilt nach der Änderungsverordnung (EU) 2026/1744 eine Übergangsfrist bis zum 2. Dezember 2026.

Ausgenommen sind Systeme, die nur bei der Standardbearbeitung unterstützen oder die Eingaben nicht wesentlich verändern. Für Antwortvorschläge, die eine Mitarbeiterin prüft und selbst sendet, ist die Einordnung im Einzelfall zu klären.

Wichtig ist in jedem Fall eine saubere Dokumentation der Rollen: Wer hat den Text erzeugt, wer hat ihn geprüft, wer hat ihn gesendet?

#Stimmungsanalyse: eine Grenze, die man kennen sollte

Gesprächsanalysen werten oft die Stimmung aus. Das ist nicht automatisch Emotionserkennung im Sinne der Verordnung, die an biometrische Daten anknüpft. Wird aber etwa aus Stimmmerkmalen auf Emotionen geschlossen, greift die Informationspflicht nach Absatz 3.

Für Mitarbeitende gilt eine strengere Grenze. Art. 5 Abs. 1 lit. f verbietet seit dem 2. Februar 2025 KI-Systeme, die Emotionen von Personen am Arbeitsplatz ableiten, außer aus medizinischen oder Sicherheitsgründen. Auswertungen über Mitarbeitende verdienen deshalb besondere Sorgfalt.

#Wann es um mehr als Transparenz geht

Die meisten Service-Bots sind kein Hochrisiko-System. Das ändert sich, wenn KI über wesentliche Leistungen mitentscheidet. Anhang III nennt unter anderem die Prüfung der Kreditwürdigkeit und die Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung.

Ebenfalls genannt ist die Prüfung von Ansprüchen auf öffentliche Unterstützungsleistungen. Für Banken, Versicherer und Behörden lohnt deshalb ein genauer Blick auf jeden Anwendungsfall. Ein Bot, der Fragen beantwortet, ist etwas anderes als ein System, das über einen Antrag mitentscheidet.

#KI-Kompetenz: eine Pflicht, die schon gilt

Seit dem 2. Februar 2025 verlangt Artikel 4 von Anbietern und Betreibern Maßnahmen zur KI-Kompetenz ihres Personals. Seit der Änderung von 2026 heißt es: Maßnahmen, die den Aufbau dieser Kompetenz unterstützen; ein bestimmtes Niveau muss nicht garantiert werden.

Für Contact Center heißt das: Wer mit KI-Assistenz arbeitet oder Bots betreut, sollte wissen, wie sie funktionieren und wo ihre Grenzen liegen.

#Wie man die Pflichten im Produkt abbildet

Aus den Pflichten lassen sich konkrete Anforderungen an eine Plattform ableiten. Univerx ist auf diese Anforderungen ausgelegt:

Die Einordnung und die Unterlagen dazu beschreibt das Trust Center zum EU AI Act. Die Grundsätze dahinter finden Sie unter Verantwortungsvolle KI, die Umsetzung in der Plattform unter Europa & Regulierung.

Einen Überblick über alle europäischen Anforderungen gibt der Leitfaden Contact Center in Europa betreiben. Den Begriff EU AI Act erklärt das Glossar.