Meta hat ein webbasiertes Erkennungstool vorgestellt, das Bilder und Videos identifizieren kann, die mit den neuesten hauseigenen KI-Modellen erstellt wurden. Die Technologie namens Content Seal setzt auf unsichtbare Wasserzeichen, die selbst dann nachweisbar bleiben sollen, wenn das Bildmaterial beschnitten, komprimiert, in der Größe verändert oder als Screenshot weiterverbreitet wird. Damit reagiert der Konzern auf wachsende Anforderungen an die Kennzeichnung synthetischer Inhalte – und auf die eigene, teils inkonsistente Handhabung in der Vergangenheit.
Wie das neue Erkennungstool und Content Seal funktionieren
Das Erkennungstool ist über die Webseite meta.ai/identification zugänglich und prüft, ob eine hochgeladene Datei ein Content-Seal-Wasserzeichen trägt. Dieses Wasserzeichen ist fester Bestandteil des neuen Bildgenerierungsmodells Muse Image und unterscheidet sich grundlegend von früheren Ansätzen: Ältere Versionen von Meta AI fügten sichtbare Logos in der unteren rechten Ecke ein, das aktuelle System arbeitet hingegen vollständig unsichtbar. Meta betont, dass die Markierung auch dann erhalten bleibt, wenn das Bild mehrfach bearbeitet oder weitergegeben wird.
„Ein positives Ergebnis bedeutet, dass das Bild mit der Meta AI App oder meta.ai erstellt oder bearbeitet wurde“, erklärt das Unternehmen in einem FAQ. „Ein negatives Ergebnis zeigt an, dass das Bild wahrscheinlich nicht mit der Meta AI App oder meta.ai verarbeitet wurde.“ In ersten Tests bestätigte das Tool sowohl bei vollständig KI-generierten als auch bei bearbeiteten Aufnahmen den Wasserzeichen-Nachweis – und fand die Markierung selbst in Screenshots der erstellten Bilder.
Noch nicht im Meta AI Assistant integriert
Bemerkenswert ist, dass die Erkennungsfunktion bislang nicht in den Meta AI Assistant innerhalb der App integriert ist. Auf die direkte Frage, ob ein bestimmtes Bild mit KI erstellt wurde, antwortete der Assistant: „Ich kann dir nicht definitiv sagen, ob dieses spezifische Bild mit Meta AI erstellt wurde, nur indem ich es mir ansehe. Meta AI markiert Bilder nicht automatisch mit Wasserzeichen, und ich habe kein Werkzeug, um zu erkennen, welches KI-Modell ein vorhandenes Bild erstellt hat.“ Das deutet darauf hin, dass die Detektion vorerst auf die webbasierte Lösung beschränkt bleibt.
Einschränkungen und Kompatibilitätsprobleme
Das System hat jedoch klare Grenzen. Content Seal ist nicht kompatibel mit SynthID oder C2PA Content Credentials, zwei etablierten Wasserzeichenverfahren, die von anderen Unternehmen genutzt werden. Zudem erkennt das Tool in der aktuellen Version keine Bilder, die mit früheren Meta-KI-Modellen erstellt wurden. In Tests mit älteren Aufnahmen aus vergangenen Chats blieb der Nachweis aus.
Eine weitere praktische Hürde: Das Tool unterliegt offenbar einem täglichen Rate Limit. Nach dem Hochladen mehrerer Beispiele erschien die Meldung, dass das tägliche Limit für Identifikationsprüfungen erreicht sei. Für Nutzer, die regelmäßig größere Mengen an Bildmaterial überprüfen möchten, ist dies bislang ein Hindernis.
Der geplante Ausbau auf Videomaterial
Meta hat angekündigt, die Content-Seal-Wasserzeichen künftig auch auf KI-generierte und bearbeitete Videos auszuweiten. Parallel arbeitet das Unternehmen an einem separaten Videogenerierungsmodell namens Muse Video, das „in Kürze“ verfügbar sein soll. Die Detektion wird damit schrittweise auf weitere Medienformate ausgeweitet – eine Entwicklung, die angesichts der zunehmenden Verbreitung synthetischer Videoclips an Bedeutung gewinnt.
Hintergrund: Metas wechselhafte Kennzeichnungspraxis
Die Einführung des neuen Erkennungstools ist auch vor dem Hintergrund früherer Kritik zu sehen. Der Oversight Board, ein externes Aufsichtsgremium, hatte Meta bereits Anfang des Jahres vorgeworfen, digitale Wasserzeichen auf KI-generierten Inhalten „inkonsistent einzusetzen“. Das Unternehmen stand wiederholt in der Kritik, weil die Kennzeichnung synthetischer Inhalte in den eigenen Apps uneinheitlich und für Nutzer oft nicht nachvollziehbar war.
Mit Content Seal und dem dazugehörigen Erkennungstool unternimmt Meta nun einen Versuch, diese Inkonsistenzen zu beheben – zumindest für die aktuellsten Modelle. Ob der Ansatz langfristig ausreicht, um den wachsenden Anforderungen an Transparenz und Nachvollziehbarkeit in der KI-Bildgenerierung gerecht zu werden, wird sich zeigen, sobald das System auf weitere Modellgenerationen und Videoinhalte ausgeweitet wird. Die fehlende Rückwärtskompatibilität mit älteren KI-Versionen und die Inkompatibilität mit branchenüblichen Standards wie C2PA bleiben vorerst Schwachstellen, die Meta adressieren muss, wenn das Tool tatsächlich als verlässliche Detektionslösung wahrgenommen werden soll.
