TikTok Inför Tydlig Märkning för AI-genererat Innehåll
TikTok har meddelat en uppdatering av sin innehållspolicy för att öka transparensen genom att märka digitalt syntetiserat medieinnehåll. Användare kommer nu att kunna se om de tittar på innehåll skapat av artificiell intelligens, eftersom ny metadata tillämpas på foton och videor för att indikera deras AI-ursprung.
Kommande Skanning av Ljudinnehåll
Den video-delande plattformen stannar inte vid visuellt innehåll; planer är under utveckling för att utvidga skanningen till ljudfiler för att säkerställa att användare kan identifiera eventuella delar av innehållet som kan vara AI-genererat.
Först på Marknaden med AI-märkning
TikTok etablerar sig som en banbrytande plattform inom AI-transparensområdet genom att vara en av de första sociala medieplattformarna att införa sådana förändringar. De kommer att använda tekniken ”content credentials” utvecklad av Coalition for Content Provenance and Authenticity (C2PA), som inkluderar stora tekniksamverkanspartners som Adobe, Arm, Intel, Microsoft och Truepic.
Ökad Transparens Över Vattenmärkningsmetoder
Claire Leibowicz, som leder avdelningen för artificiell intelligens och medieintegration på organisationen Partnership on AI (PAI) för det civila samhället, lyfter fram att ”content credentials” leder till större transparens än traditionella vattenmärkningsmetoder.
Överensstämmande med Långvarig Policy
TikToks användaravtal har krävt märkning av realistiskt AI-innehåll i över ett år, vilket överensstämmer med denna nya initiativ.
Branschrörelse mot AI-identifiering
Åtgärden följer tidigare tillkännagivanden av teknikjättar som Meta och Google, vilket indikerar en branschtrend mot att fastställa tekniska standarder för att identifiera AI-manipulerade visuella och ljud över olika plattformar, vilket successivt kommer att inkludera video- och ljudinnehåll.
Relevanta Fakta:
– TikTok har växt snabbt och är en av de ledande sociala medieplattformarna globalt, särskilt populär bland yngre användare för dess korta videoinnehåll.
– Ökningen av artificiell intelligens i innehållsskapande inkluderar ’deepfakes’, som är hyperrealistiska video- och ljudklipp där en persons liknelse eller röst ersätts med någon annans, vilket väcker farhågor om desinformationens potential och digital imitation.
– Tydlig märkning av AI-genererat innehåll stödjer digital kompetens och hjälper användare att skilja mellan autentiskt och syntetiserat innehåll.
– AI-teknikerna blir alltmer sofistikerade och kan generera innehåll som ibland är omöjligt att skilja från innehåll skapat av mänskliga, vilket gör identifieringen av sådant innehåll till en komplex utmaning.
Viktiga frågor och svar:
– Varför märker TikTok AI-genererat innehåll? TikTok märker AI-genererat innehåll för att ge större transparens för användarna och informera dem när de interagerar med innehåll som har skapats eller ändrats av AI.
– Hur kommer TikToks nya policy påverka innehållsskapare? Innehållsskapare kan behöva anpassa sig genom att säkerställa att AI-genererat eller ändrat innehåll märks på lämpligt sätt, vilket kan påverka kreativa processer och hur publiken uppfattar deras innehåll.
Nyckelutmaningar eller kontroverser:
– Utmaningen med effektiv implementering: Att säkerställa att allt AI-genererat innehåll märks korrekt kan vara svårt med tanke på den stora mängden användargenererat innehåll på TikTok.
– Integritet och deepfakes: Det finns en oro att AI-teknik kan användas för att skapa vilseledande eller skadligt innehåll, såsom deepfakes, och märkning kan inte fullt ut mildra de etiska och integritetsproblem som är förknippade med detta.
Fördelar och nackdelar:
– Fördelar:
– Användare kan fatta mer välinformerade beslut om det innehåll de konsumerar.
– Det främjar transparens och digital kompetens, motverkar spridningen av desinformation.
– Det skulle kunna skapa en prejudikat för andra plattformar att öka ansträngningarna inom AI-innehållsidentifiering.
– Nackdelar:
– Systemet kan missa viss AI-genererat innehåll vilket kan leda till brist på transparens.
– Vissa innehållsskapare kan tycka att märkning av AI-innehåll kan minska engagemanget för deras innehåll.
– Felaktiga positiva kan uppstå, där mänskligt skapat innehåll felaktigt märks som AI-genererat.
Relaterade länkar enligt det begärda formatet (under förutsättning att dessa URL:er är giltiga och relevanta från kunskapen fram till mars 2023):
– TikTok
– Coalition for Content Provenance and Authenticity (C2PA)
– Partnership on AI (PAI)