Schutz gegen Deepfake-Porn oder neues Overblocking-Gesetz?

Die USA haben mit dem sogenannten „TAKE IT DOWN Act“ eines der ersten großen Gesetze gegen intime Deepfakes und Revenge Porn verabschiedet. Plattformen müssen gemeldete Inhalte künftig innerhalb von 48 Stunden entfernen. Betroffen sind nicht nur echte Bilder und Videos, sondern ausdrücklich auch KI-generierte Inhalte. (Wikipedia)

Wichtig dabei: Das war keine Einzelaktion von Donald Trump. Der öffentliche Eindruck entsteht momentan teilweise, weil Trump das Gesetz unterschrieben hat und Melania Trump öffentlich dafür geworben hat. Tatsächlich wurde das Gesetz parteiübergreifend unterstützt. Der Entwurf stammt vom republikanischen Senator Ted Cruz zusammen mit der demokratischen Senatorin Amy Klobuchar. Im Senat ging das Gesetz praktisch ohne Gegenwehr durch, im Repräsentantenhaus lag die Zustimmung bei 409 zu 2 Stimmen.

Der Hintergrund ist nachvollziehbar. KI-generierte intime Bilder sind mittlerweile technisch trivial geworden. Einzelne Fotos reichen oft aus, um täuschend echte Nacktbilder oder Pornografie zu erzeugen. Besonders betroffen waren zuletzt Jugendliche, Streamerinnen, Schauspielerinnen und allgemein Menschen mit öffentlicher Sichtbarkeit. Viele Opfer berichten, dass Plattformen Inhalte zwar irgendwann löschen, aber oft erst nachdem sich diese längst verbreitet haben.

Genau dort setzt das Gesetz an. Plattformen sollen nicht mehr monatelang diskutieren oder Anfragen verschleppen können. Wer intime Inhalte ohne Zustimmung veröffentlicht, macht sich strafbar. Plattformen müssen Meldesysteme bereitstellen und Inhalte innerhalb von 48 Stunden entfernen. Zuständig für die Durchsetzung ist die FTC, also die US-Handelsaufsicht. (New York Post)

Der praktische Nutzen des Gesetzes ist offensichtlich. Opfer bekommen erstmals eine klare rechtliche Grundlage statt endloser Support-Tickets bei Plattformen. Gerade bei Deepfake-Porn zählt Zeit. Wenn Bilder erst einmal auf dutzenden Seiten gespiegelt werden, ist der Schaden kaum noch einzufangen. Dass KI-generierte Inhalte ausdrücklich erwähnt werden, ist ebenfalls sinnvoll. Viele ältere Gesetze decken klassische Bildmanipulationen nur unzureichend ab.

Trotzdem gibt es erhebliche Kritik — und die kommt nicht nur aus irgendwelchen „freien Internet“-Ecken. Bürgerrechtsorganisationen und digitale Freiheitsgruppen warnen davor, dass das Gesetz sehr weit formuliert ist. Begriffe wie „intime Inhalte“ oder „nicht einvernehmliche Darstellungen“ lassen Interpretationsspielraum.

Das eigentliche Problem ist weniger das Ziel des Gesetzes, sondern die technische Umsetzung. Wenn Plattformen innerhalb von 48 Stunden reagieren müssen und hohe Strafen riskieren, entsteht automatisch Druck zum schnellen Löschen. Große Plattformen wie Meta, TikTok oder Google können dafür eigene Moderationsteams aufbauen. Kleine Communities, Foren oder Nischenplattformen dagegen oft nicht. Dort dürfte die Reaktion eher lauten: „Im Zweifel löschen wir lieber sofort.“ Genau davor warnen Kritiker seit Monaten. (WIRED)

Hinzu kommt ein weiterer Punkt: Das Gesetz könnte missbraucht werden. Kritiker bemängeln, dass falsche Meldungen oder absichtliche Massen-Reports zu wenig abgesichert seien. Im schlimmsten Fall könnten legitime Inhalte verschwinden, weil Plattformen keine Zeit oder Ressourcen für eine genaue Prüfung haben. Besonders heikel wird das bei Satire, Kunstprojekten, investigativen Beiträgen oder bearbeiteten Bildern mit journalistischem Kontext.

Interessant ist außerdem, dass selbst große Tech-Konzerne das Gesetz überwiegend unterstützt haben. Meta, Google und Snap gehören zu den Unternehmen, die öffentlich Zustimmung signalisiert haben. Das dürfte auch daran liegen, dass sie sich funktionierende Moderationssysteme leisten können — kleinere Anbieter dagegen deutlich weniger.

Unterm Strich ist der TAKE IT DOWN Act weder ein reines Zensurgesetz noch die perfekte Lösung gegen Deepfakes. Die Grundidee ergibt Sinn. KI-generierte intime Bilder sind ein reales Problem und bisherige Gesetze waren dafür oft zu langsam oder zu schwach. Gleichzeitig besteht die Gefahr, dass Plattformen aus Angst vor Strafen zu aggressiv löschen und damit legitime Inhalte verschwinden.

Die eigentliche Frage wird deshalb erst in den nächsten Jahren beantwortet: Ob das Gesetz tatsächlich Opfern hilft, ohne dabei das Internet in ein automatisiertes „erst löschen, später prüfen“-System zu verwandeln.