Immer wieder liest man, wie fehlerhaft Ergebnisse von Künstlicher Intelligenz sein können. Das wirkt zunächst überraschend, denn schließlich greift KI auf enorme Datenmengen zurück. Wie entstehen also solche Fehler? Neben veralteten oder unvollständigen Trainingsdaten spielen sogenannte Halluzinationen eine zentrale Rolle. Ein Begriff, den man eigentlich aus der Psychologie kennt. Doch was bedeutet er im Zusammenhang mit KI?

Halluzinationen: Wahrscheinlichkeit statt Wahrheit

KI-Modelle wissen nicht, was wahr ist. Stattdessen berechnen sie, welche Antwort am wahrscheinlichsten passt. Sie arbeiten mit Mustern aus ihren Trainingsdaten und setzen daraus neue Texte zusammen.

Fehlen wichtige Informationen, werden diese Lücken durch solche Muster gefüllt. Das Ergebnis: Antworten, die überzeugend klingen, aber inhaltlich falsch sein können. So kommt es vor, dass Quellen erfunden oder falsche Zusammenhänge dargestellt werden.

Warum sagt die KI in solchen Fällen nicht einfach „Ich weiß es nicht“? Weil sie darauf optimiert ist, hilfreiche Antworten zu liefern. Und eine konkrete, wenn auch falsche, Antwort ist statistisch oft „passender“ als gar keine.

Bessere Prompts, bessere Ergebnisse

Die gute Nachricht: Man kann Halluzinationen zumindest reduzieren. Entscheidend ist, wie man die KI nutzt.

Je präziser der Prompt, desto besser das Ergebnis. Es hilft zum Beispiel, klare Anforderungen zu formulieren: nur belegbare Fakten, Unsicherheiten kennzeichnen oder keine Vermutungen anstellen.

Auch Hinweise wie „Bitte mit Quellenangaben“ oder „Sage mir, wenn du dir unsicher bist. Rate nicht“ können die Qualität deutlich verbessern. Eine Garantie für Fehlerfreiheit gibt es allerdings nicht.

Fazit

Auch wenn KI-Systeme kontinuierlich verbessert werden, bleibt ein kritischer Umgang mit ihren Ergebnissen unerlässlich. Wichtige Informationen sollten stets überprüft und mit vertrauenswürdigen Quellen abgeglichen werden.

Besonders bei sensiblen Themen wie Politik, Finanzen oder Gesundheit ist Vorsicht geboten, solange Halluzinationen nicht vollständig ausgeschlossen werden können.

^{Quellen:
Tokens bis Agenten: Diese zwölf KI-Begriffe sollte jeder kennen | FAZ
Studie: KI-Chatbots machen bei 40 Prozent der Antworten Fehler | tagesschau.de}

Seminartipp: KI verstehen und sicher nutzen

Künstliche Intelligenz verändert die Arbeitswelt grundlegend. Doch zwischen Hype und Wirklichkeit liegen oft Welten. In diesem Seminar erhalten Sie eine fundierte Einführung in die Möglichkeiten und Grenzen generativer KI. Das Teilnahmezertifikat ist als Nachweis einer KI-Schulung gemäß den Anforderungen des EU AI Act geeignet.