Halluzination

Eine Kundin fragt nach der Kündigungsfrist, und die KI nennt drei Monate. Die Antwort klingt sicher, ist höflich formuliert und falsch. Solche Antworten nennt man Halluzinationen. Für den Kundenservice sind sie das wichtigste Risiko generativer KI.

#Warum Sprachmodelle halluzinieren

Ein Sprachmodell erzeugt die wahrscheinlich passende Fortsetzung eines Textes. Es prüft dabei nicht, ob eine Aussage stimmt. Fehlt ihm eine Information, füllt es die Lücke mit etwas, das plausibel klingt.

Das ist kein Defekt, der sich mit dem nächsten Update erledigt, sondern eine Folge des Funktionsprinzips. Deshalb muss die Absicherung im Einsatz liegen, nicht in der Hoffnung auf ein besseres Modell.

#Typische Formen

• Erfundene Fakten. Eine Frist, eine Gebühr oder eine Öffnungszeit, die es so nicht gibt.
• Erfundene Quellen. Ein Verweis auf eine Seite oder ein Dokument, das nicht existiert.
• Falsche Zuordnung. Bedingungen eines Tarifs werden einem anderen zugeschrieben.
• Veraltete Aussagen. Was früher galt, wird als aktueller Stand ausgegeben.

#Wie Sie das Risiko begrenzen

Wirksam ist eine Kombination mehrerer Maßnahmen. Keine davon reicht allein. Die meisten setzen nicht am Modell an, sondern an den Quellen, den Freigaben und der Frage, wer eine Antwort verantwortet.

#Halluzinationen in Univerx begrenzen

In Univerx stützen sich generative Antworten auf Ihre Wissensbasis in Univerx Wissen. Vorschläge von Univerx Assist übernehmen Mitarbeitende bewusst, und KI-Agenten handeln nur im Rahmen, den Sie im Agent Studio freigeben. Unsere Grundsätze stehen unter Verantwortungsvolle KI.