Verifizierung für KI-Bilder von OpenAI

OpenAI will KI-Bilder künftig deutlich besser nachvollziehbar machen. Dafür kombiniert das Unternehmen erstmals zwei unterschiedliche Systeme miteinander: klassische Herkunfts-Metadaten nach dem C2PA-Standard und das unsichtbare Wasserzeichen SynthID von Google DeepMind.

Die Ankündigung ist interessant, weil sie ein reales Problem adressiert, das bisher viele „AI-Detection“-Ansätze praktisch nutzlos gemacht hat. Metadaten allein reichen nicht aus. Sobald ein Bild neu gespeichert, komprimiert oder als Screenshot geteilt wird, verschwinden diese Informationen oft vollständig. Genau deshalb waren viele bisherige Herkunftsnachweise im Alltag kaum belastbar.

OpenAI setzt deshalb jetzt zusätzlich auf SynthID. Dabei handelt es sich um ein unsichtbares Wasserzeichen, das direkt in die Bilddaten integriert wird. Laut Google DeepMind bleibt dieses Signal auch nach Bearbeitungen teilweise erhalten. Wichtig ist dabei aber die Formulierung: teilweise. Weder OpenAI noch Google behaupten, dass das System unzerstörbar sei. Starke Bearbeitungen, aggressive Kompression oder vollständiges Re-Rendering können solche Signale weiterhin beschädigen oder entfernen.

Parallel dazu baut OpenAI seine Unterstützung für den C2PA-Standard aus. Dieser Standard speichert Herkunftsinformationen direkt in den Dateien. Plattformen oder Tools können dadurch nachvollziehen, mit welchem Modell ein Bild erzeugt wurde und ob Bearbeitungsschritte dokumentiert wurden. Adobe setzt auf ähnliche Verfahren bereits seit längerer Zeit.

Zusätzlich startet OpenAI eine öffentliche Verifizierungs-Webanwendung. Nutzer können dort Bilder hochladen und prüfen lassen, ob C2PA-Daten oder SynthID-Signale vorhanden sind. Das klingt zunächst nach einem klassischen „KI-Detektor“, ist technisch aber etwas anderes. Die Anwendung erkennt keine KI-Bilder allgemein. Sie prüft lediglich, ob bestimmte Herkunftssignale vorhanden sind.

Das ist ein wichtiger Unterschied. Fehlen die Signale, bedeutet das nicht automatisch, dass ein Bild echt ist. Es kann genauso gut bedeuten, dass Metadaten entfernt wurden oder das Wasserzeichen beschädigt wurde. Genau diese Unsicherheit kommuniziert OpenAI erfreulich offen.

Interessant ist vor allem der größere Kontext hinter der Ankündigung. Die Branche entfernt sich langsam von der Idee, KI-Bilder zuverlässig anhand ihres Inhalts erkennen zu wollen. Viele klassische „AI Detector“-Systeme gelten inzwischen als unzuverlässig, besonders bei stark bearbeiteten oder hochqualitativen Bildern. Stattdessen verschiebt sich der Fokus auf nachvollziehbare Herkunftsketten und dokumentierte Erzeugungsprozesse.

Ob sich diese Systeme langfristig durchsetzen, hängt allerdings weniger von der Technik selbst ab als von Plattformen und Standards. Solange soziale Netzwerke Metadaten entfernen oder Bilddateien massiv verändern, bleibt die praktische Aussagekraft begrenzt. Auch OpenAI kann dieses Problem allein nicht lösen.

Trotzdem ist die Ankündigung relevant. Nicht weil sie plötzlich perfekte KI-Erkennung ermöglicht, sondern weil sie einen realistischeren Ansatz verfolgt als viele der bisherigen Lösungen der Branche.