Der Kampf gegen Deepfakes ist mittlerweile zu einer Art gemeinsamer Sache quer durch das politische Spektrum geworden, sowohl in Amerika als auch anderswo. Das liegt zum Teil daran, dass diese gefälschten Videos und Bilder immer häufiger vorkommen und immer realistischer werden. Dank generativer KI-Tools (GenAI) ist es extrem schnell, kostengünstig und einfach, gefälschte Medien zu erstellen, die eine reale Person imitieren.

Zwar werden manche davon als Scherz verschickt, doch Deepfakes haben auch eine dunklere Kehrseite. Cyberkriminelle und Betrüger nutzen die Technologie zunehmend für Betrugsmaschen und Erpressung. Mobber setzen sie ein, um ihre Opfer zu schikanieren, zu demütigen und zu missbrauchen. Oft sind Kinder das Ziel, und manche Opfer haben sich infolgedessen sogar das Leben genommen.

All dies erklärt den Erfolg des „TAKE IT DOWN Act“, der kürzlich in den USA in Kraft getreten ist. Doch weltweit zwingen politische Entscheidungsträger und die öffentliche Meinung Technologieplattformen dazu, diese Inhalte besser zu überwachen. Das sind gute Nachrichten für alle, die Opfer eines Deepfakes geworden sind.

Sind Deepfakes illegal?

Die frustrierende Antwort lautet: Es kommt darauf an. In den USA stellt der „TAKE IT DOWN Act“ die Verbreitung von nicht einvernehmlichen intimen Darstellungen (NCII) unter Strafe.  Online-Plattformen sind verpflichtet, klare Meldemechanismen bereitzustellen und rechtmäßig gemeldete Bilder innerhalb von 48 Stunden zu entfernen. Im Vereinigten Königreich stellen der „Data Act“ und der „Online Safety Act“ die Erstellung von NCII unter Strafe. Die Behörden haben zudem eine verbindliche Frist von 48 Stunden für die Entfernung festgelegt. Der EU-KI-Gesetzentwurf wird in Kürze ein Verbot von Systemen einführen, die speziell zur Erstellung von NCII entwickelt wurden. Das Handeln von Einzelpersonen unterliegt jedoch den Gesetzen der einzelnen Mitgliedstaaten. Handelt es sich bei dem Bild jedoch um ein Kind, ist dies in den meisten, wenn nicht sogar in allen Rechtsordnungen illegal.

Abgesehen von NCII hängt es davon ab, zu welchem Zweck der Deepfake erstellt wurde. Wurde er ohne Zustimmung verbreitet und/oder für böswillige Zwecke wie Betrug, Erpressung, Verleumdung, Belästigung oder Identitätsbetrug genutzt, könnte er illegal sein.

Was soll ich tun, wenn ich Opfer eines Deepfakes geworden bin?

Wenn jemand ein Deepfake von Ihnen erstellt hat, das nicht als NCII gilt, sichern Sie zunächst die Beweise. Das bedeutet, dass Sie einen Screenshot der Seite oder des Kontos machen, die URL speichern und sich den Account oder Benutzernamen, das Datum und die Uhrzeit, zu der Sie es gefunden haben, sowie den dazugehörigen Text notieren. Es ist ratsam, nicht mit der Person in Kontakt zu treten, die den Beitrag veröffentlicht hat, da sie den Inhalt sonst möglicherweise noch weiter verbreitet.

Befolgen Sie die unten aufgeführten Regeln, um den beanstandeten Inhalt sowie etwaige Identitätsbetrug, Betrug, Erpressung oder weitere Drohungen zu melden, die Teil einer umfassenderen Straftat sein könnten. Es versteht sich von selbst: Wenn Sie sich körperlich bedroht fühlen, melden Sie dies der Polizei.

Wie melde ich ein Deepfake-Foto oder -Video von mir?

Die meisten Online- und Social-Media-Plattformen verfügen mittlerweile über einen Mechanismus zur Meldung von Deepfakes, doch selten gibt es dafür eine eigene Schaltfläche. In der Regel müssen Sie den Verstoß auswählen, den der Deepfake ermöglicht hat (z. B. Mobbing, Betrug), und diesen dann erläutern.

  • Google: Probieren Sie Googles Tool „Persönliche Informationen entfernen“ (oder hier) und das Formular für rechtliche Löschanträge aus, um nicht-NCII-Inhalte aus den Suchergebnissen zu entfernen. Dadurch wird es für andere schwieriger, Ihren Deepfake zu finden. Beachten Sie, dass dadurch der zugrunde liegende Inhalt nicht entfernt wird.
  • Facebook: Öffne den Beitrag/das Video. Wähle ⋯ → Beitrag/Video melden; wähle die Kategorie aus, die das Problem am besten beschreibt, z. B. Identitätsbetrug, Belästigung. Erläutere, dass der Inhalt KI-generiert ist, und stelle klar, warum er irreführend oder schädlich ist.
  • Instagram: Klicke oben rechts auf die zwei Linien, dann auf „Melden“ und wähle den am besten passenden Grund aus.
  • TikTok: Im Video: „Teilen“ → „Melden“ → „Fehlinformationen“ → „Deepfakes, synthetische Medien und manipulierte Medien“ → „Absenden“.
  • YouTube: Wenn jemand KI verwendet, um Inhalte zu erstellen oder zu verändern, die so aussehen oder klingen wie du, kannst du über das Beschwerdeverfahren zum Datenschutz für veränderte oder synthetische Inhalte deren Entfernung beantragen.
  • X: Melde den einzelnen Beitrag. Tippe auf die drei horizontalen Punkte. „Beitrag melden“ → folge den Anweisungen zum Melden. Erkläre, dass der Inhalt KI-generiert ist und warum das ein Problem darstellt.

Wie kann ich ein KI-Nacktbild von mir entfernen lassen?

NCII erfordert aus offensichtlichen Gründen eine schnelle Reaktion. Ein guter erster Anlaufpunkt ist StopNCII.org, eine von der „Revenge Porn Helpline“ betriebene Ressource, die Teil der internationalen Wohltätigkeitsorganisation SWGfL ist. Wähle das beanstandete Bild/Video aus, und StopNCII.org erstellt davon einen Hash auf deinem Gerät. Wenn die Meldung erfolgreich ist, erhältst du eine Fallnummer. Und was am wichtigsten ist: Die teilnehmenden Plattformen suchen nach demselben Hash und entfernen alle übereinstimmenden Bilder aus ihren Systemen, sofern diese gegen ihre Richtlinien verstoßen.

Zu den Partnern gehören Meta, TikTok, Reddit und X. Außerdem solltest du den Deepfake aus der Google-Suche entfernen, damit er für andere schwerer zu finden ist.

TakeItDown.NCMEC.org betreibt ein ähnliches System für Bilder und Videos von Personen unter 18 Jahren.

Eine Website will mein Foto nicht entfernen – was nun?

Google hat das Deepfake von dir vielleicht aus dem Index entfernt, aber es könnte weiterhin auf der zugrunde liegenden Website verfügbar sein. Als Erstes solltest du den Betreiber kontaktieren und die Entfernung beantragen. Sollte dieser sich weigern, gehe wie folgt vor:

  • Sichern Sie die Beweise, einschließlich Screenshots, URL, Datum und Uhrzeit, zu der Sie den Inhalt erstmals entdeckt haben, die Antwort der Website auf Ihre Anfrage sowie den Account bzw. den Nutzer, der den Inhalt hochgeladen hat
  • Suchen Sie den Ansprechpartner der Website für Rechtsfragen, Datenschutz oder Urheberrecht und teilen Sie ihm schriftlich mit, dass das Bild bzw. Video Sie zeigt und ohne Ihre Zustimmung veröffentlicht wird. Fordern Sie die Entfernung gemäß den entsprechenden Richtlinien der Website oder den lokalen Gesetzen an und bitten Sie um eine schriftliche Bestätigung, sobald dies geschehen ist
  • Im Vereinigten Königreich und in der EU können Sie sich dabei auf das Recht auf Löschung gemäß Artikel 17 der DSGVO berufen . Sollte die Website dies weiterhin ablehnen oder keine Maßnahmen ergreifen, wenden Sie sich an Ihre lokale Datenschutzbehörde
  • In den USA hängt die weitere Vorgehensweise von den jeweiligen Gesetzen des jeweiligen Bundesstaates ab.

Der Schlüssel im Umgang mit Websites, sozialen Plattformen, Suchmaschinen oder Aufsichtsbehörden liegt nicht nur darin, anzugeben, dass der Inhalt KI-generiert ist, sondern genau zu spezifizieren, warum er problematisch ist (z. B. Betrug, Belästigung, Identitätsdiebstahl usw.). Seien Sie beharrlich und erwägen Sie, die Suchmaschine, die soziale Plattform/Website und die Aufsichtsbehörde gleichzeitig zu kontaktieren, um Zeit zu sparen.