KI-Agenten verantwortungsvoll einführen

#Worum es geht

Ein KI-Agent ist mehr als ein Chatbot mit besserem Sprachverständnis. Er versteht ein Anliegen, handelt in angebundenen Systemen und übergibt an einen Menschen, wenn er nicht weiterkommt oder nicht weiterkommen soll. Er bucht einen Termin um, ändert eine Adresse, prüft einen Bestellstatus.

Genau diese Fähigkeit zu handeln macht die Einführung anspruchsvoller als bei einem reinen Auskunftssystem. Wer handelt, braucht Rechte, Grenzen und ein Protokoll. Dieser Leitfaden führt durch die Punkte, die vor dem ersten produktiven Gespräch geklärt sein sollten.

Die Begriffe erklärt das Glossar unter KI-Agent und Agentische KI. Die Funktionen in Univerx beschreibt die Seite KI-Agenten.

#Den richtigen Einstieg wählen

Der häufigste Fehler beim Start ist ein zu breiter Auftrag: „Der Agent soll alle Anfragen beantworten.“ Besser ist eine kurze Liste von Anliegen, die häufig vorkommen, klar abgegrenzt sind und bei denen ein Fehler korrigierbar bleibt.

Die Daten für diese Auswahl haben Sie meist schon. Kontaktgründe aus dem Ticketsystem, Themen aus der Gesprächsanalyse und die Erfahrung der Teamleitungen zeigen, welche Anliegen sich wiederholen und wie sie gelöst werden.

#Rollen im Projekt

Ein KI-Agent ist kein IT-Projekt, das die Fachabteilung abnimmt. Er ist eine neue Art, Anliegen zu bearbeiten, und braucht deshalb Verantwortliche aus mehreren Bereichen. Benennen Sie diese Rollen, bevor der erste Agent gebaut wird.

• Fachliche Verantwortung: entscheidet, welche Anliegen der Agent übernimmt und was als erledigt gilt.
• Wissensredaktion: pflegt die Inhalte, auf die sich Antworten stützen.
• Annehmendes Team: nimmt Übergaben an und meldet, wo Kontext fehlt.
• Technik und Integration: bindet Systeme an und verwaltet die Zugänge des Agenten.
• Datenschutz und Betriebsrat: prüfen Daten, Protokolle und Auswertungen.
• Freigabe: gibt Versionen frei und trägt die Verantwortung für den Live-Betrieb.

In kleinen Teams fallen mehrere Rollen auf eine Person. Wichtig ist nur, dass jede Rolle einen Namen hat. Sonst bleibt im Zweifel unklar, wer eine fehlerhafte Antwort korrigiert.

#Kennzeichnung: von Anfang an klar

Art. 50 des EU AI Act verlangt, dass Menschen erfahren, wenn sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Diese Pflicht gilt seit dem 2. August 2026. Für den Kundenservice ist die Kennzeichnung ohnehin eine Frage des Vertrauens.

Gute Kennzeichnung ist kurz, eindeutig und wiederholbar. Sie steht am Anfang, nicht im Kleingedruckten. Sie verbindet den Hinweis mit dem Angebot, jederzeit eine Person zu erreichen.

Auch in E-Mail und SMS gehört die Kennzeichnung in jede Nachricht, die der Agent verfasst, nicht nur in die erste. Dort liest niemand einen Begrüßungstext, der drei Nachrichten zurückliegt.

Am Telefon fehlt das visuelle Signal eines Chatfensters. Dort ist die Ansage zu Beginn deshalb besonders wichtig. Wie sich Kennzeichnung in den Gesprächsfluss einfügt, ohne ihn zu stören, beschreibt der Beitrag KI kennzeichnen, ohne das Gespräch zu stören.

#Übergabe: der Moment, der entscheidet

Ein KI-Agent wird nicht daran gemessen, wie viele Gespräche er allein beendet, sondern daran, wie gut die Übergaben sind. Kundinnen und Kunden verzeihen eine Übergabe. Sie verzeihen nicht, alles noch einmal erzählen zu müssen.

#Wann übergeben wird

Legen Sie Auslöser fest, statt die Übergabe dem Zufall zu überlassen. Typische Auslöser sind der ausdrückliche Wunsch nach einer Person, wiederholtes Nichtverstehen, ein Anliegen außerhalb des Auftrags und Themen, die Sie bewusst Menschen vorbehalten, etwa Beschwerden oder Notlagen.

#Was übergeben wird

Die Übergabe enthält das erkannte Anliegen, die bisherigen Schritte, bereits geprüfte Angaben und den Grund der Übergabe. Eine kurze Zusammenfassung oben, der vollständige Verlauf darunter. Die Mitarbeiterin sieht beides auf ihrem Arbeitsplatz, bevor sie das Gespräch annimmt.

Service DE· aktiv

Warteschlangen

Telefon3 wartend

Chat5 wartend

E-Mail2 wartend

Messaging1 wartend

Gespräch

KI-Agent, gekennzeichnetÜbergabe vom KI-Agenten · Kontext vollständig

Ich habe den Bescheid bekommen, aber der Betrag passt nicht zum Antrag.

Ich sehe den Vorgang vor mir. Einen Moment, ich prüfe die Berechnung.

Stimmung: ruhigTelefon

Kontext

Vorgang

2026-0412

Verlauf

3 · 14 d

Univerx Assist

Antwortvorschlag

Der Bescheid weicht vom Antrag ab. Ich schlage eine Korrektur vor und sende Ihnen die Bestätigung per Nachricht.

EinfügenÜbernehmen

Zusammenfassung

Anliegen: Abweichung im Bescheid. Dokumente liegen vor. Nächster Schritt: Korrektur, Bestätigung per Nachricht.

Mehr zum Inhalt einer guten Übergabe steht im Beitrag Warum die Übergabe entscheidet.

#Telefon und Chat: was sich unterscheidet

Am Telefon gelten andere Regeln als im Chat. Gesprochene Antworten müssen kürzer sein, weil niemand zurückblättern kann. Listen mit mehr als drei Punkten überfordern. Zahlen, Daten und Namen sollten wiederholt und bestätigt werden.

Spracherkennung macht außerdem Fehler, die im Chat nicht vorkommen: verwechselte Ziffern, Hintergrundgeräusche, Dialekt. Planen Sie Rückfragen ein, etwa „Habe ich richtig verstanden: Ihre Kundennummer endet auf 4711?“. Und erlauben Sie jederzeit den Wechsel zu einer Person.

Im Chat dagegen können Kundinnen pausieren und später weitermachen. Der Agent muss deshalb auch nach Stunden wissen, wo das Gespräch stand. Web-Messaging ist dafür ein guter Startkanal, weil Verläufe sichtbar bleiben und sich leicht auswerten lassen.

#Handlungen und Berechtigungen

Was ein Agent tun darf, ist eine Entscheidung der Fachabteilung, nicht der Technik. Halten Sie sie als Liste von Handlungen fest: welche Systeme, welche Felder, welche Grenzen. Alles, was nicht auf der Liste steht, ist verboten.

1. Lesen vor Schreiben. Der Agent beginnt mit Auskünften aus angebundenen Systemen. Schreibende Handlungen folgen, wenn Lesen zuverlässig funktioniert.
2. Grenzen ausdrücklich setzen. Beträge, Zeiträume, Anzahl der Änderungen je Gespräch. Was darüber liegt, geht an einen Menschen.
3. Identität vor Handlung. Änderungen an Konten nur nach einer Prüfung, die Ihrem Verfahren am Telefon entspricht.
4. Bestätigen lassen. Vor jeder Änderung fasst der Agent zusammen, was er tun wird, und wartet auf ein Ja.
5. Eigene Zugänge nutzen. Der Agent handelt mit einer eigenen technischen Identität, nicht mit dem Konto einer Person.

Diese Regeln machen den Agenten nicht langsamer. Sie machen ihn erklärbar, und das ist die Voraussetzung dafür, dass Fachabteilung, Datenschutz und Revision ihm vertrauen.

#Wissen und belegte Antworten

Ein Agent ist nur so gut wie das Wissen, auf das er sich stützt. Generative Antworten sollten auf Ihre Wissensbasis gebunden sein, nicht auf das allgemeine Weltwissen eines Modells. Fachlich heißt das Grounding.

Wo eine belegte Antwort fehlt, sagt der Agent das und übergibt, statt zu raten. So begrenzen Sie Halluzinationen, also plausibel klingende, aber falsche Antworten. Wie eine Wissensbasis dafür aufgebaut wird, zeigt der Leitfaden Wissensmanagement für den Kundenservice.

Zum Wissen gehört auch der Ton. Legen Sie fest, ob der Agent siezt oder duzt, wie lang Antworten sein dürfen und welche Begriffe Ihr Haus verwendet. Ein kurzer Stilleitfaden, den auch das Serviceteam nutzt, lässt Agent und Mensch wie aus einem Haus klingen.

#Protokollierung: nachvollziehbar statt unsichtbar

Jede Aktion eines Agenten wird protokolliert: was erkannt wurde, welche Wissensquelle genutzt wurde, welche Handlung ausgeführt wurde und warum übergeben wurde. Das Protokoll dient der Qualitätssicherung, der Fehleranalyse und der Beantwortung von Beschwerden.

Protokolle sind personenbezogene Daten. Für sie gelten Zweck, Frist und Rollenrechte wie für Aufzeichnungen. Legen Sie fest, wer Protokolle sehen darf und wie lange sie aufbewahrt werden. Der Leitfaden Contact Center in Europa betreiben ordnet die Regeln dazu ein.

#Datenschutz für den Agenten

Ein Agent sieht oft mehr Daten, als er braucht. Geben Sie ihm nur die Felder, die für seine Anliegen nötig sind. Das entspricht dem Grundsatz der Datenminimierung aus Art. 5 DSGVO und verringert zugleich das Risiko, dass sensible Angaben in Antworten auftauchen.

Klären Sie mit dem Anbieter, wo Spracherkennung und Sprachmodelle laufen, ob Gesprächsinhalte die gewählte Region verlassen und ob sie zum Training von Modellen verwendet werden. Lassen Sie sich die Antworten schriftlich geben und nehmen Sie sie in Ihre Folgenabschätzung auf.

#Freigabe und Versionierung

Ein Agent besteht aus Anweisungen, Wissen, Handlungen und einem Modell. Jede Änderung an einem dieser Teile kann sein Verhalten verändern. Deshalb braucht jede Änderung denselben Weg: bauen, testen, freigeben, ausrollen.

In Agent Studio werden Agenten und Prompts ohne Code gebaut, getestet, freigegeben und versioniert. Modelle und Prompts werden zentral freigegeben. Wer freigibt, legen Sie fest; für Agenten mit schreibenden Handlungen empfiehlt sich ein Vier-Augen-Prinzip.

#Testen vor dem Start

Testen Sie mit echten Formulierungen, nicht mit idealen. Kundinnen schreiben in Halbsätzen, mit Tippfehlern, in mehreren Anliegen auf einmal. Sammeln Sie dafür anonymisierte Beispiele aus vergangenen Kontakten und ergänzen Sie gezielt schwierige Fälle.

Lassen Sie auch die Mitarbeitenden testen, die später Übergaben annehmen. Sie erkennen am schnellsten, wo eine Antwort fachlich nicht stimmt.

#Mitarbeitende, Kompetenz und Mitbestimmung

Seit Februar 2025 verlangt Art. 4 des AI Act, dass Betreiber für ausreichende KI-Kompetenz ihres Personals sorgen. Im Kundenservice betrifft das alle, die mit dem Agenten arbeiten: diejenigen, die Übergaben annehmen, Antworten prüfen, Wissen pflegen oder Versionen freigeben.

Beziehen Sie den Betriebsrat früh ein. Ein Agent verändert Arbeit, und seine Protokolle können Rückschlüsse auf Mitarbeitende erlauben, etwa wer welche Übergabe wie bearbeitet hat. Solche Auswertungen unterliegen der Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG.

#Messen, was zählt

Die naheliegende Kennzahl ist der Anteil der Gespräche, die ohne Übergabe enden. Allein ist sie irreführend: Ein Agent, der Kundinnen ohne Lösung entlässt, schneidet dabei gut ab. Messen Sie deshalb immer auch, ob das Anliegen erledigt ist.

Erheben Sie dieselben Werte vor dem Start für die Anliegen, die der Agent übernehmen soll. Ohne diese Ausgangsbasis lässt sich später nicht sagen, ob der Agent etwas verbessert hat oder nur Arbeit verschiebt. Vergleichen Sie Gleiches mit Gleichem: dieselben Anliegen, derselbe Zeitraum, derselbe Kanal.

Mehr zu Kennzahlen, die Entscheidungen tragen, lesen Sie im Beitrag Kundenerlebnis messen ohne Schaufenster-Kennzahlen.

#Betrieb nach dem Start

Mit dem Go-live beginnt die eigentliche Arbeit. Ein Agent im Betrieb braucht einen festen Rhythmus, in dem Fachabteilung, Wissensredaktion und annehmendes Team zusammenkommen. In den ersten Wochen wöchentlich, später monatlich.

1. Übergabegründe sichten. Welche Gründe nehmen zu, welche sind neu?
2. Stichproben lesen. Eine feste Zahl von Gesprächen je Woche, ausgewählt nach Zufall, nicht nach Auffälligkeit.
3. Wissenslücken weitergeben. Jede fehlende oder falsche Quelle wird zur Aufgabe für die Wissensredaktion.
4. Rückmeldungen auswerten. Bewertungen von Kundinnen und Hinweise des annehmenden Teams gemeinsam betrachten.
5. Änderungen planen. Verbesserungen sammeln und als neue Version testen und freigeben.

Legen Sie außerdem fest, wie ein Agent schnell abgeschaltet oder auf reine Auskunft beschränkt wird, wenn etwas schiefläuft. Wer das entscheiden darf und wie Kontakte dann umgeleitet werden, gehört in das Betriebshandbuch, nicht in eine spontane Abstimmung.

#Checkliste vor dem Start

#Vom Pilot zum Ausbau

Ein guter Pilot dauert so lange, bis die Übergabegründe stabil sind und keine neuen Fehlerarten mehr auftauchen. Danach wächst der Agent in Stufen: weitere Anliegen, weitere Kanäle, schließlich das Telefon mit Voicebots.

Erweitern Sie dabei nie zwei Dinge gleichzeitig. Ein neuer Kanal und neue Anliegen in derselben Woche machen es unmöglich zu erkennen, was eine Verschlechterung ausgelöst hat. Jede Stufe beginnt mit einer neuen Version, neuen Tests und einer Freigabe.

Mitarbeitende profitieren parallel von Univerx Assist: Antwortvorschläge, Wissen und Zusammenfassungen im Gespräch. Wie Univerx KI-Funktionen auf Transparenz, Aufsicht und Protokollierung auslegt, beschreibt das Trust Center. Für einen Workshop zu Ihren Anliegen sprechen Sie mit uns.