Meta Platforms, firma-matka Facebooka i Instagrama, ogłosiła plany wykrywania i oznaczania zdjęć generowanych przez usługi sztucznej inteligencji (SI) świadczone przez inne firmy. Firma zamierza używać niewidocznych znaczników wbudowanych w pliki obrazów, aby odróżnić prawdziwe fotografie od cyfrowo stworzonej treści. Ten system oznaczania zostanie zastosowany do dowolnej treści, która nosi znaczniki i jest udostępniana na platformach Meta.
Wprowadzenie tego systemu oznaczania jest próbą rozwiązania rozpowszechnionego problemu wprowadzającej w błąd i fałszywej treści generowanej przez technologie SI. Te technologie mają zdolność do tworzenia realistycznie wyglądających obrazów w odpowiedzi na proste polecenia, co rodzi obawy dotyczące potencjalnie szkodliwych skutków związanych z ich nadużyciem. Inicjatywa oznaczania wprowadzona przez Meta jest częścią większego ruchu w branży technologicznej mającego na celu ustalenie standardów i łagodzenie negatywnych skutków generatywnej SI.
Nick Clegg, prezydent Meta ds. spraw międzynarodowych, wyraził pewność co do zdolności firmy do wiarygodnego oznaczania obrazów generowanych przez SI. Jednocześnie uznaje on jednak założoność opracowania podobnych narzędzi dla treści audio i wideo za skomplikowaną. Chociaż technologia znakowania dźwięku i wideo nie jest jeszcze w pełni dojrzała, Meta planuje wymagać od osób oznaczania własnej zmienionej treści audio i wideo oraz wprowadzić sankcje za jej niedostosowanie.
Warto zaznaczyć, że inicjatywa oznaczania Meta nie obejmuje obecnie tekstu generowanego przez narzędzia SI, takie jak ChatGPT. Clegg stwierdził, że nie ma obecnie wykonalnego mechanizmu do oznaczania takiej treści. Ponadto nie jest jasne, czy Meta będzie stosować oznaczenia do treści generowanej przez SI udostępnianej na szyfrowanej usłudze komunikacji WhatsApp.
Niedawne badanie polityki Meta dotyczącej wprowadzania myląco sfałszowanych filmów przez niezależne kolegium nadzoru skłoniło Clegga do uznania potrzeby wprowadzenia ulepszonych środków. Kolegium zaleciło zamieszczenie oznaczeń zamiast usuwania takiej treści. Clegg zgadza się z opinią kolegium, stwierdzając, że obecna polityka Meta nie jest już odpowiednia, zważywszy na rosnącą obecność syntetycznej i hybrydowej treści. Poprzez nawiązanie współpracy w zakresie oznaczania z innymi firmami technologicznymi, Meta dąży do wykazania swojego zaangażowania w rozwiązanie tych problemów.
Podsumowując, decyzja Meta Platforms o oznaczaniu obrazów generowanych przez SI stanowi ważny krok w zwalczaniu dezinformacji i zwiększaniu przejrzystości na swoich platformach. W miarę jak branża technologiczna nadal zmaga się z wyzwaniami stawianymi przez technologie generatywne SI, inicjatywy współpracy, takie jak ta inicjatywa oznaczania, stają się kluczowe dla kształtowania odpowiedzialnego wykorzystania SI.
Sekcja FAQ:
The source of the article is from the blog elperiodicodearanjuez.es