Meta’s Oversight Board navigiert durch die komplexen Gewässer der modernen Inhaltsmoderation und fordert öffentliches Feedback zur angemessenen Reaktion auf KI-hergestellte explizite Bilder, die sich gegen öffentliche Persönlichkeiten richten. In zwei hochkarätigen Fällen – ein indischer Prominenter und ein amerikanischer Prominenter betreffend – wurde KI verwendet, um Bilder von sexuell expliziter Natur zu erstellen.
Zum Beispiel entstand eine kontroverse Situation auf Instagram, wo ein Account, der KI-generierte Bilder indischer Frauen postet, ein manipuliertes Foto einer bekannten indischen Persönlichkeit teilte. Die Besonderheit dieses Falles liegt nicht nur im Inhalt selbst, sondern in dem besorgniserregenden Muster von Deepfakes, die in Indien zunehmen, einem Land, das einen Anstieg solcher irreführender Mediataktiken verzeichnet.
Metas Öffentlichkeitsinitiative zielt darauf ab, eine breitere gesellschaftliche Perspektive auf diese ethischen Dilemmata im digitalen Bereich einzufangen, trotz bereits bestehender Vorgaben des indischen Ministeriums für Elektronik und Informationstechnologie, die die Entfernung solcher Inhalte aus sozialen Medienplattformen empfehlen.
Die Intensität des Problems wird durch die virale Verbreitung gefälschter Bilder berühmter indischer Schauspielerinnen über verschiedene Online-Kanäle hervorgehoben. In diesem speziellen Fall blieb der betreffende Inhalt aufgrund eines Übersehens zunächst unüberprüft, was zu verzögerter Maßnahmeneinleitung führte, bis das Oversight Board intervenierte.
Gleichzeitig ereignete sich in den Vereinigten Staaten eine parallele Situation, in der ein KI-generiertes explizites Bild einer amerikanischen Berühmtheit innerhalb einer Facebook-Gruppe geteilt wurde. Nach einer intensiven Reaktion der in den USA ansässigen Nutzer wurde der Inhalt als Verstoß gegen die Community-Standards von Facebook markiert und anschließend gelöscht.
Zu diesen Fällen werden öffentliche Kommentare für eine begrenzte Zeit eingeholt, was Metas Streben nach transparenten und communityinformierten Entscheidungen in einer sich ständig weiterentwickelnden digitalen Landschaft unterstreicht. Die Frist für öffentliches Feedback bietet den Interessengruppen die Möglichkeit, den Rahmen für den Umgang mit sensiblen und potenziell schädlichen KI-generierten Inhalten zu beeinflussen.
The source of the article is from the blog regiozottegem.be