KI-Antworten prüfen: Halluzinationen erkennen

KI-Antworten prüfen Mitarbeitende am zuverlässigsten mit vier Fragen: Ist jede Zahl, jedes Zitat und jeder Name belegbar? Beantwortet die Antwort wirklich die Frage? Ist sie aktuell? Und würde ich sie mit meinem Namen verantworten? Sprachmodelle können überzeugend klingende, aber erfundene Angaben machen. Diese Halluzinationen sind kein seltener Ausrutscher, sondern eine Eigenschaft der Technik.

Wer KI im Arbeitsalltag nutzt, braucht deshalb vor allem eine Fähigkeit: das Ergebnis kritisch zu lesen. Dieser Beitrag zeigt, woran man Halluzinationen erkennt und wie eine schnelle Prüfung aussieht.

Warum KI Dinge erfindet

Ein Sprachmodell erzeugt Text, indem es Wort für Wort das wahrscheinlich passende nächste Wort wählt. Es „weiß“ nicht, ob eine Aussage stimmt. Fehlt ihm eine Information, füllt es die Lücke mit etwas, das plausibel klingt. So entstehen erfundene Paragrafen, Studien, Zitate oder Preise. Mehr dazu im Glossar unter Halluzination.

Warnsignale für Halluzinationen

Sehr genaue Zahlen ohne Quelle, etwa „73,4 % der Unternehmen …“
Paragrafen, Urteile oder Normen, die Sie nicht nachschlagen können
Zitate von Personen ohne Fundstelle
Links, die nicht existieren oder auf etwas anderes zeigen
Aussagen zu Ihrem Betrieb, die die KI gar nicht wissen kann
Antworten auf Fragen nach aktuellen Ereignissen, wenn das Werkzeug nicht im Web sucht

Die Vier-Fragen-Prüfung

Frage	Was Sie tun
Belegbar?	Zahlen, Namen, Paragrafen und Zitate an der Originalquelle prüfen
Passend?	Beantwortet der Text die gestellte Frage oder eine ähnliche?
Aktuell?	Gilt die Angabe noch? Gesetze, Preise und Fristen ändern sich
Verantwortbar?	Würde ich das so an Kunden oder Vorgesetzte geben?

Für die meisten Alltagstexte dauert diese Prüfung nur wenige Minuten. Bei rechtlichen, medizinischen oder finanziellen Aussagen ist sie Pflicht, bevor etwas das Haus verlässt.

Wo Prüfen besonders wichtig ist

Einsatz	Risiko	Prüfung
Formulierungshilfe für eigene Texte	gering	Lesen, Ton prüfen
Zusammenfassung eines vorliegenden Dokuments	mittel	Stichproben mit dem Original abgleichen
Fakten, Zahlen, Rechtsfragen	hoch	jede Angabe an einer Quelle prüfen
Entscheidungen über Menschen	sehr hoch	KI nur als Hilfe, Entscheidung trifft ein Mensch

Wie man Halluzinationen von vornherein reduziert

Material mitgeben statt die KI aus dem Gedächtnis antworten zu lassen.
Ausdrücklich verbieten zu ergänzen: „Nutze nur die Angaben aus dem Text.“
Nach Quellen fragen und diese selbst öffnen.
Werkzeuge mit Quellenangabe nutzen, die auf eigene Dokumente zugreifen.

Wie KI-Systeme gebaut werden, die ihre Antworten mit Quellen belegen, erklärt der Beitrag KI-Antworten mit Quellenangabe. Auf der Nutzerseite hilft ein guter Prompt – siehe Prompts schreiben lernen.

Menschliche Kontrolle ist auch eine Frage der Verantwortung

Wer ein KI-Ergebnis weitergibt, verantwortet es. Das gilt gegenüber Kunden ebenso wie intern. Der EU AI Act setzt deshalb auf KI-Kompetenz: Unternehmen, die KI einsetzen, müssen nach Art. 4 Maßnahmen ergreifen, die die Kompetenz ihrer Mitarbeitenden unterstützen – dazu gehört zu wissen, wo KI irrt. Der Beitrag KI-Kompetenz nach Art. 4 erklärt die Pflicht.

Prüfen im Team üben

Halluzinationen erkennt man am besten, wenn man sie einmal selbst erlebt hat. In unserer KI-Schulung für Unternehmen prüfen Teilnehmende KI-Antworten zu Fragen aus ihrem eigenen Arbeitsbereich und lernen, wann ein Ergebnis taugt und wann nicht – mit Teilnahmebescheinigung für Ihre Dokumentation.

Zur Förderung: Eine reine Schulung wird in der Regel nicht über INQA-Coaching bezuschusst, denn das Programm fördert Beratung. Wird die KI-Einführung insgesamt als INQA-Coaching begleitet, übernimmt der Bund 80 % der Beratungskosten von bis zu 1.200 € pro Tag für bis zu 12 Tage. Welche Programme für Sie in Frage kommen, zeigt der Förder-Check.

Häufig gestellte Fragen

Was ist eine KI-Halluzination?

Eine überzeugend formulierte, aber falsche oder erfundene Angabe eines Sprachmodells, etwa ein nicht existierender Paragraf oder eine erfundene Zahl. Sie entsteht, weil das Modell wahrscheinliche Texte erzeugt, ohne Fakten zu prüfen.

Wie erkenne ich, ob eine KI-Antwort stimmt?

Indem Sie Zahlen, Namen, Zitate und Rechtsangaben an der Originalquelle prüfen und kontrollieren, ob die Antwort zur Frage passt und aktuell ist. Bei wichtigen Aussagen ist diese Prüfung unverzichtbar.

Kann man Halluzinationen ganz vermeiden?

Nein, aber deutlich reduzieren: durch mitgegebenes Material, die Anweisung, nichts zu ergänzen, und Werkzeuge, die Antworten mit Quellen aus eigenen Dokumenten belegen.

Wer haftet für falsche KI-Antworten?

Wer ein KI-Ergebnis weitergibt, verantwortet es. Deshalb sollte bei Aussagen mit Folgen für Kunden oder Beschäftigte immer ein Mensch prüfen und entscheiden.