In einer kürzlich durchgeführten Überprüfung von Unternehmensrichtlinien hat Meta’s Oversight Board eine Untersuchung zur Behandlung von zwei durch künstliche Intelligenz (KI) generierten, sexuell expliziten Bildern eingeleitet, die berühmte Frauen auf Social-Media-Plattformen darstellten. Das unabhängige Gremium, das mit finanzieller Unterstützung von Meta arbeitet, plant, die Wirksamkeit von Metas Richtlinien und Praktiken zu bewerten, indem es diese spezifischen Vorfälle untersucht.
Ein Vertreter des Gremiums informierte über die Angelegenheit und betonte die Bedeutung, sich gegen weitere Schäden zu schützen. Man entschied sich bewusst dafür, die Identitäten der in den Bildern dargestellten Prominenten nicht preiszugeben, um die Situation nicht zu verschärfen. Die ausgefeilte Technologie der KI hat die Grenze zwischen künstlichem und authentischem Inhalt online verwischt und stellt ernsthafte Auswirkungen dar, insbesondere für die Darstellung von gefälschtem eindeutigem Material, das sich gegen Frauen und Mädchen richtet.
Hochkarätige Vorfälle im Verlauf dieses Jahres haben die Herausforderung verdeutlicht, der sich Technologieplattformen bei der Regulierung der Verbreitung solcher Inhalte gegenübersehen. Zum Beispiel sah sich eine bedeutende Social-Media-Plattform im Besitz von Elon Musk damit konfrontiert, die Verbreitung obszöner gefälschter Bilder zu kontrollieren, was zu einer vorübergehenden Beschränkung von Suchanfragen im Zusammenhang mit der amerikanischen Sängerin Taylor Swift führte.
Einige Branchenführer befürworten die Schaffung rechtlicher Rahmenbedingungen, die die Herstellung hyperrealistischer gefälschter Bilder, bekannt als „Deep Fakes“, unter Strafe stellen und Technologieunternehmen dazu verpflichten würden, eine Nutzung ihrer Technologien für solche Zwecke zu verhindern.
Gemäß Aussagen des Meta Oversight Boards stammte eines der umstrittenen Bilder von einem Instagram-Account, der ausschließlich KI-generierte Bilder indischer Frauen verbreitete, darunter auch eine Abbildung einer bekannten indischen Persönlichkeit. Das andere Bild, das in einer Facebook-Gruppe mit KI-generierten Inhalten auftauchte, stellte eine Figur dar, die einer berühmten amerikanischen Frau in einer expliziten Szene ähnelte.
Meta reagierte, indem es das Bild, das die Amerikanerin darstellte, aufgrund von Verstößen gegen die Richtlinien gegen Mobbing und Belästigung, die sich mit „manipulierten Bildern mit degradierendem sexuellen Inhalt“ befassen, entfernte. Das Bild mit der indischen Figur wurde jedoch zunächst nicht berührt und wurde erst entfernt, nachdem das Oversight Board seine Untersuchung begonnen hatte.
Meta hat die Vorfälle anerkannt und sich dazu verpflichtet, die Entscheidungen des Oversight Boards in diesen Angelegenheiten umzusetzen.
Aktuelle Markttrends: Die Verbreitung von KI-generierten Inhalten in sozialen Medien hat zu verschiedensten Trends und Herausforderungen geführt. Die KI hat sich so weit entwickelt, dass die Generierung realistischer Bilder, Videos und Texte immer einfacher wird. Dies hat zu positiven Effekten geführt, wie der Automatisierung kreativer Aufgaben und der Personalisierung der Benutzererfahrung, aber auch zu negativen Effekten, wie der Schaffung von Deep Fakes und unangemessenen Inhalten.
Für Social-Media-Unternehmen kann die KI ein zweischneidiges Schwert sein. Sie ermöglicht eine leistungsstarke Inhaltsmoderation durch die automatisierte Erkennung von Verstößen gegen Richtlinien, ermöglicht aber auch die Erstellung realistischer gefälschter Inhalte, die den Erkennungsalgorithmen entgehen können. Aus diesem Grund aktualisieren diese Unternehmen kontinuierlich ihre Algorithmen, um mit diesen Entwicklungen Schritt zu halten.
Prognosen: Es wird erwartet, dass die KI in naher Zukunft noch ausgefeilter wird, was bedeutet, dass die Generierung und Erkennung unangemessener Inhalte in einem fortwährenden Wettlauf verwickelt sein werden. Die Nachfrage nach fortgeschritteneren Mitteln zur Inhaltsmoderation und klareren rechtlichen Rahmenbedingungen wird voraussichtlich steigen.
Wichtige Herausforderungen oder Kontroversen: Der Einsatz von KI zur Generierung unangemessener Bilder wirft wichtige Bedenken hinsichtlich Datenschutz, Einwilligung und Schäden für Personen auf, die ohne ihre Zustimmung dargestellt werden. Es herrscht eine Debatte darüber, wer verantwortlich gemacht werden soll – die Schöpfer der KI, die Benutzer, die den Inhalt generieren und verbreiten, oder die Plattformen, die ihn hosten.
Insbesondere Deep Fakes wurden als bedeutende Bedrohung sowohl für individuelle Rufschädigungen als auch für das allgemeine Vertrauen in der Gesellschaft hervorgehoben. Mit der Weiterentwicklung der Technologie verschwimmt die Grenze zwischen echtem und gefälschtem Inhalt weiterhin und stellt Herausforderungen für Strafverfolgungsbehörden, Inhaltsmoderatoren und die Öffentlichkeit dar.
Vor- und Nachteile:
– Vorteile:
– Die KI kann die Effizienz der Inhaltsmoderation verbessern, indem sie die Erkennung von Richtlinienverletzungen automatisiert.
– Neue kreative Möglichkeiten eröffnen sich für legitime Anwendungen von KI-generierten Inhalten in Kunst, Unterhaltung und Bildung.
– Nachteile:
– KI-generierte Inhalte können bösartig genutzt werden, um Personen zu imitieren, zu diffamieren oder zu erpressen.
– Sie können das Vertrauen in digitale Medien untergraben, was es schwierig macht, Wahrheit von Fälschung zu unterscheiden.
– Die Möglichkeit von Schäden ist erheblich, insbesondere wenn Frauen und Mädchen überproportional von unangemessenem, KI-generiertem Material betroffen sind.
Für weitere Informationen zu KI-Richtlinien und -Regulierung können Sie die folgenden Links besuchen:
– Künstliche Intelligenz Ethik und Gesellschaft: AIES Konferenz
– KI-Richtlinienrahmen: OECD
– Globale KI-Regulierung: World Economic Forum
Bitte beachten Sie, dass diese Links zu Informationszwecken bereitgestellt werden und nicht direkt mit den spezifischen Maßnahmen des Meta Oversight Boards oder den in dem Artikel genannten Vorfällen in Verbindung stehen. Sie bieten allgemeine Ressourcen zur besseren Einordnung des breiteren Kontexts von KI-Richtlinien und -Regulierung.
The source of the article is from the blog scimag.news