Meta hat ein webbasiertes Erkennungstool vorgestellt, das Bilder und Videos identifizieren kann, die mit den neuesten hauseigenen KI-Modellen erstellt wurden. Die Technologie namens Content Seal setzt auf unsichtbare Wasserzeichen, die selbst dann nachweisbar bleiben sollen, wenn das Bildmaterial beschnitten, komprimiert, in der Gr\u00f6\u00dfe ver\u00e4ndert oder als Screenshot weiterverbreitet wird. Damit reagiert der Konzern auf wachsende Anforderungen an die Kennzeichnung synthetischer Inhalte \u2013 und auf die eigene, teils inkonsistente Handhabung in der Vergangenheit.<\/p>\n
Das Erkennungstool ist \u00fcber die Webseite meta.ai\/identification zug\u00e4nglich und pr\u00fcft, ob eine hochgeladene Datei ein Content-Seal-Wasserzeichen tr\u00e4gt. Dieses Wasserzeichen ist fester Bestandteil des neuen Bildgenerierungsmodells Muse Image und unterscheidet sich grundlegend von fr\u00fcheren Ans\u00e4tzen: \u00c4ltere Versionen von Meta AI f\u00fcgten sichtbare Logos in der unteren rechten Ecke ein, das aktuelle System arbeitet hingegen vollst\u00e4ndig unsichtbar. Meta betont, dass die Markierung auch dann erhalten bleibt, wenn das Bild mehrfach bearbeitet oder weitergegeben wird.<\/p>\n
\u201eEin positives Ergebnis bedeutet, dass das Bild mit der Meta AI App oder meta.ai erstellt oder bearbeitet wurde\u201c, erkl\u00e4rt das Unternehmen in einem FAQ. \u201eEin negatives Ergebnis zeigt an, dass das Bild wahrscheinlich nicht mit der Meta AI App oder meta.ai verarbeitet wurde.\u201c In ersten Tests best\u00e4tigte das Tool sowohl bei vollst\u00e4ndig KI-generierten als auch bei bearbeiteten Aufnahmen den Wasserzeichen-Nachweis \u2013 und fand die Markierung selbst in Screenshots der erstellten Bilder.<\/p>\n
Bemerkenswert ist, dass die Erkennungsfunktion bislang nicht in den Meta AI Assistant innerhalb der App integriert ist. Auf die direkte Frage, ob ein bestimmtes Bild mit KI erstellt wurde, antwortete der Assistant: \u201eIch kann dir nicht definitiv sagen, ob dieses spezifische Bild mit Meta AI erstellt wurde, nur indem ich es mir ansehe. Meta AI markiert Bilder nicht automatisch mit Wasserzeichen, und ich habe kein Werkzeug, um zu erkennen, welches KI-Modell ein vorhandenes Bild erstellt hat.\u201c Das deutet darauf hin, dass die Detektion vorerst auf die webbasierte L\u00f6sung beschr\u00e4nkt bleibt.<\/p>\n
Das System hat jedoch klare Grenzen. Content Seal ist nicht kompatibel mit SynthID oder C2PA Content Credentials, zwei etablierten Wasserzeichenverfahren, die von anderen Unternehmen genutzt werden. Zudem erkennt das Tool in der aktuellen Version keine Bilder, die mit fr\u00fcheren Meta-KI-Modellen erstellt wurden. In Tests mit \u00e4lteren Aufnahmen aus vergangenen Chats blieb der Nachweis aus.<\/p>\n
Eine weitere praktische H\u00fcrde: Das Tool unterliegt offenbar einem t\u00e4glichen Rate Limit. Nach dem Hochladen mehrerer Beispiele erschien die Meldung, dass das t\u00e4gliche Limit f\u00fcr Identifikationspr\u00fcfungen erreicht sei. F\u00fcr Nutzer, die regelm\u00e4\u00dfig gr\u00f6\u00dfere Mengen an Bildmaterial \u00fcberpr\u00fcfen m\u00f6chten, ist dies bislang ein Hindernis.<\/p>\n
Meta hat angek\u00fcndigt, die Content-Seal-Wasserzeichen k\u00fcnftig auch auf KI-generierte und bearbeitete Videos auszuweiten. Parallel arbeitet das Unternehmen an einem separaten Videogenerierungsmodell namens Muse Video, das \u201ein K\u00fcrze\u201c verf\u00fcgbar sein soll. Die Detektion wird damit schrittweise auf weitere Medienformate ausgeweitet \u2013 eine Entwicklung, die angesichts der zunehmenden Verbreitung synthetischer Videoclips an Bedeutung gewinnt.<\/p>\n
Die Einf\u00fchrung des neuen Erkennungstools ist auch vor dem Hintergrund fr\u00fcherer Kritik zu sehen. Der Oversight Board, ein externes Aufsichtsgremium, hatte Meta bereits Anfang des Jahres vorgeworfen, digitale Wasserzeichen auf KI-generierten Inhalten \u201einkonsistent einzusetzen\u201c. Das Unternehmen stand wiederholt in der Kritik, weil die Kennzeichnung synthetischer Inhalte in den eigenen Apps uneinheitlich und f\u00fcr Nutzer oft nicht nachvollziehbar war.<\/p>\n
Mit Content Seal und dem dazugeh\u00f6rigen Erkennungstool unternimmt Meta nun einen Versuch, diese Inkonsistenzen zu beheben \u2013 zumindest f\u00fcr die aktuellsten Modelle. Ob der Ansatz langfristig ausreicht, um den wachsenden Anforderungen an Transparenz und Nachvollziehbarkeit in der KI-Bildgenerierung gerecht zu werden, wird sich zeigen, sobald das System auf weitere Modellgenerationen und Videoinhalte ausgeweitet wird. Die fehlende R\u00fcckw\u00e4rtskompatibilit\u00e4t mit \u00e4lteren KI-Versionen und die Inkompatibilit\u00e4t mit branchen\u00fcblichen Standards wie C2PA bleiben vorerst Schwachstellen, die Meta adressieren muss, wenn das Tool tats\u00e4chlich als verl\u00e4ssliche Detektionsl\u00f6sung wahrgenommen werden soll.<\/p>\n","protected":false},"excerpt":{"rendered":"
Meta hat ein webbasiertes Erkennungstool vorgestellt, das Bilder und Videos identifizieren kann, die mit den neuesten hauseigenen KI-Modellen erstellt wurden. Die Technologie namens Content Seal setzt auf unsichtbare Wasserzeichen, die selbst dann nachweisbar bleiben sollen, wenn das Bildmaterial beschnitten, komprimiert, in der Gr\u00f6\u00dfe ver\u00e4ndert oder als Screenshot weiterverbreitet wird. Damit reagiert der Konzern auf wachsende […]<\/p>\n","protected":false},"author":5,"featured_media":47294,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/iili.io\/ClnDVAG.jpg","fifu_image_alt":"Meta ver\u00f6ffentlicht Erkennungstool f\u00fcr KI-generierte Bilder und Videos","footnotes":""},"categories":[5],"tags":[],"class_list":["post-43735","post","type-post","status-publish","format-standard","has-post-thumbnail","category-artikel"],"fifu_image_url":"https:\/\/iili.io\/ClnDVAG.jpg","fifu_image_alt":"Meta ver\u00f6ffentlicht Erkennungstool f\u00fcr KI-generierte Bilder und Videos","_links":{"self":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/43735","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/comments?post=43735"}],"version-history":[{"count":1,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/43735\/revisions"}],"predecessor-version":[{"id":43739,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/43735\/revisions\/43739"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/media\/47294"}],"wp:attachment":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/media?parent=43735"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/categories?post=43735"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/tags?post=43735"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}