Ein Safety Checker ist ein Filtersystem, das KI-Bilder automatisch auf problematische Inhalte überprüft.
Dabei erkennt die KI zum Beispiel:
Nacktheit
Gewalt
schockierende Inhalte
urheberrechtlich problematische Motive
oder andere gesperrte Inhalte
Viele KI-Tools blockieren oder verändern Bilder automatisch, wenn der Safety Checker anschlägt.
Safety Checker werden häufig eingesetzt bei:
Cloud-Diensten
öffentlichen KI-Plattformen
Apps
kommerziellen Bildgeneratoren
Lokale Stable-Diffusion-Tools erlauben es oft, diese Filter:
anzupassen
zu deaktivieren
oder komplett zu entfernen
Der Nachteil:
Safety Checker arbeiten nicht perfekt. Sie blockieren manchmal harmlose Bilder oder übersehen problematische Inhalte komplett.
Besonders bei Kunst, Fashion oder düsteren Bildstilen entstehen deshalb häufig Fehlentscheidungen.
Kurz gesagt:
Ein Safety Checker überprüft KI-Bilder automatisch auf Inhalte, die von einer Plattform oder einem Anbieter eingeschränkt werden sollen.