Halluzination bezeichnet in der KI Fehler oder Inhalte, die von der KI „erfunden“ werden, obwohl sie eigentlich nicht korrekt sind.
Bei KI-Bildern können das zum Beispiel sein:
zusätzliche Finger
unmögliche Anatomie
falsche Objekte
unlogische Hintergründe
kaputte Perspektiven
erfundene Details
Auch Bildanalyse-Tools oder Prompt-Interpreter halluzinieren häufig:
Sie erkennen Dinge im Bild, die gar nicht existieren.
Halluzinationen entstehen oft durch:
unklare Prompts
schlechte Trainingsdaten
komplexe Szenen
zu aggressive Einstellungen
oder einfach Grenzen des Modells
Moderne Modelle halluzinieren meist weniger als ältere Stable-Diffusion-Versionen, komplett verschwunden ist das Problem aber bis heute nicht.
Kurz gesagt:
Halluzinationen sind KI-Fehler, bei denen Inhalte falsch erkannt oder komplett erfunden werden.