Das Meta Oversight Board hat den Social-Media-Konzern aufgefordert, den Schutz gewöhnlicher Nutzer vor sexualisierten Deepfakes deutlich zu verstärken. In einer aktuellen Stellungnahme empfiehlt das unabhängige Kontrollgremium, KI-generierte Identitätstäuschungen explizit in die Richtlinie zur sexuellen Ausbeutung Erwachsener aufzunehmen. Solche Bilder und Videos seien grundsätzlich nicht einvernehmlich, argumentiert das Board.
Hintergrund: Ein Fall, der die Lücken offenlegte
Die Empfehlungen sind das Ergebnis einer Untersuchung, bei der Meta wiederholt die Meldung eines Nutzers ignorierte, der eine sexualisierte Deepfake-Darstellung seiner Freundin auf Instagram gemeldet hatte. Das Video zeigte eine Frau, die ihr Kleid zurechtrückte – in einigen Bildern war ihre Unterwäsche sichtbar. Der meldende Nutzer gab an, ein Freund der abgebildeten Person zu sein, deren Konto bereits geschlossen war. Zwei Nutzer hatten das Video ursprünglich gemeldet, doch Meta entfernte es nicht. Erst nachdem das Oversight Board den Fall aufgriff, stufte das Unternehmen den Beitrag als „nur für Erwachsene“ ein, beließ ihn aber online mit der Begründung, er verstoße nicht gegen die Gemeinschaftsstandards.
Drei zentrale Forderungen des Oversight Board
Das Gremium verlangt von Meta drei grundlegende Änderungen. Erstens soll die Kategorie der KI-generierten Identitätstäuschung als eigener Tatbestand in die Richtlinie zur sexuellen Ausbeutung Erwachsener aufgenommen werden. Zweitens fordert das Board die Einführung sogenannter „verbundener Konten“: Nutzer sollen vertraute Freunde oder Familienmitglieder benennen können, die in ihrem Namen Verstöße wie nicht-einvernehmliche intime Bildaufnahmen melden dürfen. Drittens verlangt das Gremium, dass KI-generierte sexuelle Identitätstäuschung in den Melde- und Beschwerdeformularen als eigene Kategorie neben Belästigung und Nacktheit aufgeführt wird. Bislang haben nur Nutzer in Texas und Florida Zugang zu einem speziellen Formular, das Deepfake-Intimaufnahmen als Meldegrund auflistet. Das Board fordert dies für alle Meta-Nutzer weltweit – „denn KI-generierte nicht-einvernehmliche intime Missbrauchsdarstellungen, einschließlich sexualisierter Identitätstäuschungen, sind ein globales Problem“.
Warum Meta die Deepfakes zunächst nicht entfernte
Meta teilte dem Oversight Board mit, dass es zum Zeitpunkt der ursprünglichen Meldung keine Hinweise darauf gegeben habe, dass es sich bei der abgebildeten Person um einen echten Menschen handele. Hätte die betroffene Frau selbst das Video gemeldet, wäre es aufgrund der Richtlinie zur sexuellen Ausbeutung Erwachsener entfernt worden – die Selbstmeldung gilt als klares Zeichen fehlender Einwilligung. Weitere glaubwürdige Indikatoren für Nicht-Einvernehmlichkeit sind nach Metas Auffassung Meldungen von Strafverfolgungsbehörden, Medien oder vertrauenswürdigen Partnern. Auch Bildunterschriften oder Seitentitel, die darauf hindeuten, dass Inhalte „in rachsüchtiger oder sensationalistischer Weise“ geteilt werden, können als Nachweis dienen.
Das Board stellt in seinem Bericht jedoch klar, dass für nicht-öffentliche Personen die einzige praktikable Möglichkeit, fehlende Einwilligung nachzuweisen, die Selbstmeldung bleibt. Für normale Nutzer sei es kaum realistisch, Strafverfolgungsbehörden oder Medien einzuschalten – diese Wege stünden vor allem öffentlichen Personen offen. Die Untersuchung zeige damit eine strukturelle Lücke im Schutzmechanismus des Konzerns.
Wiederholte Kritik an Metas Umgang mit KI-Inhalten
Es ist nicht das erste Mal, dass das Oversight Board Metas Vorgehen im Bereich KI-generierter Inhalte scharf kritisiert. Bereits Mitte 2025 bezeichnete das Gremium die inkonsistente Durchsetzung der eigenen Regeln als „inkohärent und nicht zu rechtfertigen“. Im März desselben Jahres forderte das Board Meta auf, eine eigenständige Regelung für KI-Inhalte zu schaffen, die getrennt von der Desinformationsrichtlinie existiert. Jene Empfehlung resultierte aus einem Fall, in dem ein KI-generiertes Video angeblich zerstörte Gebäude in der israelischen Stadt Haifa zeigte – der Beitrag stammte von einem Konto, das vorgab, ein Nachrichtenmedium zu sein, tatsächlich aber von einem Nutzer auf den Philippinen betrieben wurde.
Das Oversight Board hat Meta nun aufgefordert, zu den aktuellen Empfehlungen Stellung zu nehmen. Das Unternehmen ist nicht verpflichtet, die Vorschläge umzusetzen, muss aber reagieren. Für den konkreten Fall, der die Untersuchung auslöste, hat das Board Metas Entscheidung, das Video online zu lassen, aufgehoben und die Entfernung des Beitrags angeordnet. „Das Ausmaß, die Geschwindigkeit und die Raffinesse von KI-Tools haben weltweit zu einer massiven Verbreitung von KI-generierten sexualisierten nicht-einvernehmlichen Inhalten geführt“, schreibt das Board in seinem Bericht. „Die Verbreitung sexualisierter Deepfake-Videos verursacht Reputationsschäden und psychologische Schäden, die unverhältnismäßig stark Frauen und Mädchen betreffen, und hat einen abschreckenden Effekt auf die Teilhabe am sozialen und politischen Leben.“ Ob Meta die vorgeschlagenen Schutzmechanismen tatsächlich umsetzt, wird zeigen, ob der Konzern aus den wiederholten Rügen des eigenen Kontrollgremiums Konsequenzen zieht – oder ob die Lücken im Schutz vor KI-generierten Missbrauchsdarstellungen für normale Nutzer bestehen bleiben.
