KI-Halluzinationen

Typische Merkmale von KI-Halluzinationen

Falsche Fakten
Die KI erzeugt Inhalte, die ausgedacht sind, wie z. B. Daten, Ereignisse oder Behauptungen, die so nie stattgefunden haben. Diese Aussagen wirken oft plausibel, basieren aber nicht auf verifizierten Quellen.

Logische Fehler
Antworten können innere Widersprüche oder Denkfehler enthalten. Die KI zieht fehlerhafte Schlussfolgerungen, weil sie keine echte Logikprüfung durchführt, sondern lediglich Textmuster aneinanderreiht.

Nicht existierende Quellen
Manche KI-generierte Inhalte verweisen auf Bücher, Studien oder Webseiten, die in Wirklichkeit nicht existieren. Diese erfundenen Quellen können jedoch täuschend echt wirken und weisen oft sogar einen konkreten Titel, Autor oder Jahreszahl aus. 

Verwechslung von Konzepten
Die KI kann Begriffe, Personen oder Fachkonzepte miteinander verwechseln oder durcheinanderbringen; etwa, weil sie in ähnlichen Zusammenhängen vorkommen oder sich sprachlich ähneln.

Warum passieren Halluzinationen?

Sprachmodelle wie ChatGPT „verstehen“ keine Inhalte im menschlichen Sinne. Sie analysieren statistische Muster in riesigen Textmengen und erstellen auf dieser Basis neue Texte. Wenn Trainingsdaten unvollständig oder widersprüchlich sind, oder die Frage zu allgemein, unklar oder ungewöhnlich formuliert wurde, füllt die KI diese Lücken kreativ, aber nicht immer korrekt.

Wie kann man Halluzinationen vermeiden?

Bei der Arbeit mit Künstlicher Intelligenz (KI) sollte man sich nie auf die Richtigkeit der Antworten verlassen, sondern diese grundsätzlich kritisch hinterfragen. Bevor man also Fakten, Daten oder Quellen übernimmt sollte man diese unbedingt verifizieren. Außerdem sollte man immer konkrete Fragen stellen. Denn: Je präziser die Frage ist, desto geringer ist das Risiko einer Halluzination. Im Zweifel nachrecherchieren oder einen Experten fragen.