TikTok har åtagit sig att öka transparensen genom att införa automatisk etikettering för videor som skapas med artificiell intelligens (AI)-verktyg. Allt innehåll på plattformen som har genererats av AI, inklusive material som skapats med avancerade AI-tjänster som OpenAIs DALL·E 3, kommer nu att ha en ”AI-genererad” tagg för att säkerställa att användarna är medvetna om innehållets ursprung.
Denna åtgärd är en strategisk del av TikToks antagande av Content Credentials, som utvecklats av Coalition for Content Provenance and Authenticity (C2PA), en samarbetsinriktad tech-initiativ med tungviktare som Microsoft och Adobe. Med denna nya teknik kommer metadata att läggas till varje video, vilket gör att plattformen kan identifiera och automatiskt tagga AI-producerade videor.
Hur den nya etiketteringen fungerar kommer att sträcka sig bortom TikToks interna AI-effekter. Videor skapade med externa tjänster som stöder C2PAs innehållsackrediteringsramverk, som Microsofts Bing Image Creator och nämnda DALL·E 3, kommer också att etiketteras därefter.
Denna initiativ framkommer då stora teknikaktörer, inklusive Google, ger sitt stöd för standardisering av sådana referenser. Under de kommande månaderna planerar TikTok att ytterligare integrera Content Credentials på sin plattform för innehåll som skapas direkt genom sina egna AI-effekter.
Den detaljerade metadata kopplad till AI-genererat innehåll kommer att erbjuda insikter om hur och var innehållet skapades eller redigerades, med målet att bibehålla kopplingen till innehållet även när det laddas ner av användare, vilket säkerställer en varaktig transparens över plattformens mediedelningslandskap.
Nyckelfrågor och svar:
1. Vad fick TikTok att besluta att lägga till AI-innehållsetiketter?
TikToks beslut att lägga till AI-innehållsetiketter är troligtvis ett svar på den bredare diskussionen och oron kring deepfakes, desinformation och transparensen av innehållsursprunget. Genom att tagga AI-genererat innehåll strävar TikTok efter att ge användarna omedelbar insikt i innehållets karaktär.
2. Hur avgör TikTok vilket innehåll som ska etiketteras som AI-genererat?
Innehåll kommer att etiketteras som AI-genererat baserat på metadata som identifierar om AI-verktyg och tjänster, inklusive TikToks interna AI-effekter eller externa tjänster som ingår i C2PAs ramverk, såsom DALL·E 3, användes i dess skapande.
3. Vilka är konsekvenserna för innehållsskapare och användare?
För innehållsskapare lägger systemet till ett lager av ansvar och transparens i den kreativa processen. Användarna gynnas genom att vara bättre informerade om innehållets ursprung, vilket kan påverka deras förtroende och uppfattning om det innehållet.
Nyckelutmaningar och kontroverser:
– Standardisering: Att säkerställa en omfattande antagande av C2PAs standarder bland olika plattformar är utmanande och kräver branschövergripande samarbete.
– Effektivitet och noggrannhet: Risken för att systemet felaktigt etiketterar eller missar att etikettera innehåll höjer bekymmer kring tillförlitligheten hos etiketterna.
– Integritet: Implementering av sådana system innebär hantering av känslig metadata som kan höja integritetsfrågor eller få oavsiktliga konsekvenser om de används felaktigt eller blir hackade.
– Användaruppfattning: Hur användare uppfattar och möjligen stigmatiserar AI-genererat innehåll på grund av etiketterna kan påverka beredvilligheten för innehållsskapare att använda AI-verktyg.
Fördelar:
– Transparens och Förtroende: Tydlig etikettering kan främja en mer transparent miljö och bygga förtroende med användare som vill veta innehållets ursprung.
– Bekämpning av Desinformation: Etiketter kan hjälpa till att minska spridningen av desinformation genom att varna användare för innehållets syntetiska natur.
Nackdelar:
– Överberoende på Etiketter: Användare kan bli överberoende av etiketter och potentiellt bortse från innehåll utan etiketter som också kan vara vilseledande eller felaktiga.
– Felaktig Etikettering: Falska positiva eller negativa etiketter kan skapa förvirring och minska systemets trovärdighet.
För ytterligare information om bredare ansträngningar mot innehållsautenticitet kan du besöka huvudsidorna för de involverade företagen och initiativen: