Sztuczna inteligencja (AI) szybko przekształciła różne branże i zrewolucjonizowała technologię. Jednak jej rozwój przyniósł także narastanie deepfake’ów, czyli manipulowanych mediów tworzonych lub modyfikowanych przy użyciu technologii AI w celu zmylenia widzów. W odpowiedzi na ten zaniepokajający trend, gigant mediów społecznościowych Meta ogłosił, że rozpocznie oznaczanie mediów generowanych przez AI od maja.
Oznaczanie mediów generowanych przez AI przez Meta ma na celu uspokojenie użytkowników i rządów co do potencjalnych zagrożeń związanych z deepfake’ami. Zamiast usuwać zmodyfikowane media, które nie łamią jego reguł, Meta postanowiła je oznaczać i dostarczać kontekstu. Ten sposób działania ma na celu znalezienie równowagi między ochroną wolności słowa a radzeniem sobie z rosnącym zaniepokojeniem związanym z manipulowanymi mediami.
W ramach nowego systemu oznaczania Meta, treści zidentyfikowane jako „Stworzone za pomocą AI” będą wyraźnie oznaczone, aby użytkownicy mogli rozpoznać media, które zostały wygenerowane lub zmodyfikowane za pomocą sztucznej inteligencji. Z kolei treści uznane za wysokie ryzyko zmylenia publiczności otrzymają bardziej wyraźne oznaczenie. Ta transparentność i dodatkowy kontekst dostarczany przez Meta mają na celu skuteczniejsze radzenie sobie z problemem deepfake’ów.
Eksperci jednak ostrzegają, że choć rozpoznawanie treści stworzonych przez AI to krok we właściwym kierunku, nadal mogą istnieć luki. Na przykład oprogramowanie open-source nie zawsze stosuje preferowaną technikę znakowania wodnego przyjętą przez większych graczy z branży AI. Ta niezgodność może potencjalnie podważyć skuteczność systemu oznaczania.
Wdrożenie systemu oznaczania przez Meta będzie miało miejsce w dwóch fazach, z rozpoczęciem oznaczania treści generowanych przez AI w maju.
FAQ
The source of the article is from the blog guambia.com.uy