Wasserzeichentechnologie wurde als Lösung für das wachsende Problem von KI-Fehlinformationen im Internet gepriesen. Experten und eine Überprüfung von NBC News haben jedoch festgestellt, dass aktuelle Wasserzeichnungsmethoden weit davon entfernt sind, effektiv zu sein. Während Unternehmen wie Meta und Adobe sich auf Wasserzeichnungsstandards festgelegt haben, waren die Ergebnisse enttäuschend.
Eine der Hauptprobleme beim Wasserzeichen liegt in seiner Anfälligkeit für Umgehungen. Zeitgenössische Wasserzeichnungstechnologien basieren in der Regel auf zwei Komponenten: einem unsichtbaren Tag in den Metadaten eines Bildes und einem sichtbaren Label, das auf dem Bild überlagert wird. Leider sind sowohl unsichtbare Wasserzeichen als auch sichtbare Labels leicht zu entfernen, z. B. durch Screenshots und Zuschneiden.
Ein weiteres Problem ist, dass große Social-Media- und Technologieunternehmen die Verwendung von Labels für KI-generierte oder KI-bearbeitete Inhalte nicht durchgesetzt haben. Dieser Mangel an strengen Vorschriften begrenzt die Auswirkungen von Wasserzeichnungsbemühungen. Als Meta-CEO Mark Zuckerberg beispielsweise sein Facebook-Titelbild mit einem KI-generierten Bild aktualisierte, war das Label, das auf seinen KI-Ursprung hinwies, für Benutzer nicht sichtbar, es sei denn, sie klickten auf das Foto. Dies zeigt die Schwächen der aktuellen Wasserzeichnungstechnologie.
Meta kündigte im Februar an, dieses Problem anzugehen, indem es seine Pläne zur Identifizierung von KI-generierten Inhalten durch Wasserzeichentechnologie und zur Kennzeichnung solcher Inhalte auf Facebook, Instagram und Threads bekanntgab. Meta räumt jedoch auch ein, dass Wasserzeichnung nicht narrensicher ist und leicht manipuliert werden kann. Das Unternehmen beabsichtigt, in den kommenden Monaten strengere Standards einzuführen, die Benutzer dazu zwingen, KI-generierte Inhalte offenzulegen und Sanktionen bei Nichteinhaltung zu verhängen.
Die Sichtbarkeit von Wasserzeichnungslabels stellt auch Herausforderungen dar. Das Entfernen sichtbarer Wasserzeichen dauert nur wenige Sekunden und untergräbt die Sicherheit, die sie bieten sollen. Dies wirft Bedenken hinsichtlich der Zuverlässigkeit von Wasserzeichen bei der Verifizierung echter Inhalte und der Identifizierung von KI-generierten Medien auf.
Trotz Bemühungen von großen Technologieunternehmen wie Meta, Google, Microsoft und Adobe, kooperative Wasserzeichnungsstandards zu übernehmen, stehen tausende von KI-Modellen zum Download bereit, die sich nicht an diese Standards halten. Dies schafft eine erhebliche Lücke bei der wirksamen Bekämpfung von KI-Fehlinformationen.
Die Grenzen des Wasserzeichens werden besonders deutlich, wenn man den Anstieg von Deepfakes berücksichtigt. Deepfakes sind KI-generierte Medien, die oft dazu dienen, Personen mit manipulierten Bildern und Videos ohne deren Zustimmung anzugreifen. Wasserzeichnung allein kann die Komplexitäten und ethischen Herausforderungen, die durch Deepfakes entstehen, nicht bewältigen.
Da Deepfakes weiterhin in Betrugsfällen, politischer Desinformation und Verletzungen der Privatsphäre eingesetzt werden, wird deutlich, dass ein ganzheitlicher Lösungsansatz erforderlich ist. Wasserzeichnung kann allein nicht ausreichen, um das Problem der Deepfakes zu bekämpfen.
Um die Herausforderungen von KI-Fehlinformationen zu bewältigen, ist ein vielschichtiger Ansatz erforderlich, der fortschrittliche Technologien, strenge Vorschriften und öffentliches Bewusstsein miteinbezieht.
FAQ
The source of the article is from the blog mgz.com.tw