TikTok, popularna platforma mediów społecznościowych, niedawno potwierdziła swoje zobowiązanie do przejrzystości wobec użytkowników, ogłaszając nowy system oznakowania. Treści generowane przez sztuczną inteligencję na ich platformie będą teraz posiadać charakterystyczny znak, aby zapobiec wszelkim nieporozumieniom lub oszustwom wśród użytkowników. Ewolucja autentyczności treści stała się istotną kwestią wraz z pojawieniem się interfejsów generatywnej sztucznej inteligencji, które są w stanie tworzyć treści tekstowe, graficzne i wideo na podstawie prostych zapytań w języku naturalnym.
Ta decyzja TikToka, należącego do chińskiej firmy ByteDance, ma na celu rozwiązanie rosnącej troski o „deepfake’i” – zaawansowane techniki fabrykacji dźwiękowych lub wideo prezentujące wydarzenia, które nigdy się nie wydarzyły. Inicjatywa TikToka dotycząca oznaczania treści generowanych przez sztuczną inteligencję pobranych z określonych źródeł stanowi krok w kierunku zmniejszenia wpływu mylących efektów, jakie taka technologia może mieć.
Chociaż szczegółów nie ujawniono, TikTok zasygnalizował swoją współpracę z podmiotami takimi jak Google, OpenAI, Adobe i Microsoft, wszystkimi należącymi do 'Coalition for Content Provenance and Authenticity’ (C2PA), założonej w 2021 roku, aby promować przejrzystość i autentyczność źródeł w mediach cyfrowych.
Giganci technologiczni takie jak OpenAI, Adobe i Microsoft już przyjęli automatyczne znaki dla treści generowanych przez sztuczną inteligencję, a Google wprowadził podobną funkcję. Natomiast Meta, inny ważny gracz w obszarze generatywnej sztucznej inteligencji, który nie jest członkiem C2PA, również ogłosił, że będzie oznaczał treści zidentyfikowane jako tworzone przez AI.
TikTok ogłosił w czwartek chęć dołączenia do C2PA i inicjatywy 'Content Authenticity Initiative’ (CAI) prowadzonej przez Adobę. Dyrektor Operacyjny TikToka wyraził znaczenie przejrzystości dla użytkowników platformy, podczas gdy Generalny Kounsel Adobe podkreślił konieczność sposobów rozróżniania autentycznych treści w erze, gdzie powszechne jest modyfikowanie cyfrowe.
Wspierając ten transparentny podejście, TikTok wprowadził we wrześniu własne narzędzie AI o nazwie 'TikTok AI’, które oznaczało edytowane treści. Ponadto firma planuje wydać wideo edukacyjne online, aby wyjaśnić swoją metodykę w zakresie autentyczności treści.
Kluczowe pytania i odpowiedzi:
P: Co to są deepfake’i i dlaczego są istotne w tym kontekście?
O: Deepfake’i to wysoce realistyczne i często przekonujące cyfrowe manipulacje dźwięku lub wideo, które sprawiają wrażenie, że ktoś mówi lub robi coś, czego naprawdę nie robi. Są istotne w tym kontekście, ponieważ jako platforma do udostępniania treści wideo, TikTok jest podatny na rozpowszechnianie deepfake’ów, co może prowadzić do dezinformacji i szkody dla reputacji jednostek.
Kluczowe wyzwania lub kontrowersje:
Głównym wyzwaniem jest znalezienie równowagi między ochroną użytkowników przed oszukańczą treścią a zachowaniem swobody twórczej, którą zapewniają platformy takie jak TikTok. Dodatkowo istnieją kontrowersje wokół cenzury, gdyż niektórzy użytkownicy mogą uważać, że oznakowanie lub regulowanie treści narusza ich wyraz. Wdrożenie efektywnych systemów detekcji i oznakowania AI, które dokładnie identyfikują treści bez utrudniania ich legalnego użytku, stanowi kolejne wyzwanie techniczne.
Zalety decyzji TikToka:
– Przejrzystość: Użytkownicy będą mieć jaśniejsze zrozumienie, które treści są generowane przez AI.
– Edukacja: Inicjatywa obejmuje filmy edukacyjne informujące użytkowników o naturze treści cyfrowych.
– Zaufanie: Może zwiększyć zaufanie użytkowników, wiedząc, że platforma aktywnie zajmuje się problemem dezinformacji.
– Standardy: Przysłuży się ustalaniu standardów branżowych dotyczących korzystania z treści generowanych przez AI.
Wady decyzji TikToka:
– Wdrożenie: Poprawne i szybkie identyfikowanie wszystkich treści generowanych przez AI jest technologicznie trudne.
– Skuteczność: Etykiety mogą nie powstrzymać rozprzestrzeniania się mylących treści, gdyż użytkownicy mogą je zignorować.
– Wolność: Krytycy mogą twierdzić, że ogranicza ona swobodę twórczą twórców treści.
Sugestie powiązanych linków:
Dla dodatkowych informacji na temat deepfake’ów i AI w mediach cyfrowych, odwiedź następujące linki:
– Coalition for Content Provenance and Authenticity (C2PA): C2PA
– Content Authenticity Initiative (CAI): CAI
– Strona internetowa firmy TikTok: TikTok
– OpenAI, lider w technologii AI: OpenAI
– Narzędzia AI i cyfrowe firmy Adobe: Adobe
– Inicjatywy związane z AI firmy Microsoft: Microsoft
– Zasady i narzędzia AI firmy Google: Google
– Meta i ich podejście do AI: Meta
The source of the article is from the blog mgz.com.tw