TikTok on kinnitanud suurenenud läbipaistvuse nõude, tutvustades automaatset sildistamist videotele, mis on loodud tehisintellekti (AI) tööriistadega. Platvormil olev iga sisu, mis on loodud AI abil, sealhulgas materjalid, mis on valmistatud arenenud AI-tööriistadega nagu OpenAI DALL·E 3, kuvab nüüd “AI-genereritud” silti, tagades, et kasutajad on teadlikud sisu päritolust.
Seda käiku on strateegiliselt rakendatud osana TikToki sisu autentsuse tunnistuse (Content Credentials) kasutuselevõtust, mille on välja töötanud koostööalane tehnoloogiainitsiatiiv Coalition for Content Provenance and Authenticity (C2PA), kaasates selliseid raskewkaalusid nagu Microsoft ja Adobe. Uue tehnoloogia abil lisatakse iga video juurde metaandmed, mis võimaldab platvormil tuvastada ja automaatselt sildistada AI-ga loodud videoid.
Kuidas uus sildistamine töötab, laieneb kaugemale TikToki sisemisest AI-efektidest. Ka väliseid teenuseid kasutades loodud videod, mis toetavad C2PA sisu akrediteerimise raamistikku, nagu Microsofti Bingi pildiloome ja eespool mainitud DALL·E 3, sildistatakse vastavalt.
See algatus tuleb esile suurte tehnoloogiaosaliste, sealhulgas Google’i, avaldades toetust selliste tunnistuste standardiseerimisele. Järgmise paari kuu jooksul kavatseb TikTok täiendavalt integreerida Content Credentials oma platvormile otse läbi omaenda AI-efektide loodud sisu jaoks.
Detailsete metaandmetega seotud AI-genereritud sisu pakub ülevaadet, kuidas ja kus sisu loodi või redigeeriti, eesmärgiga säilitada sisuga seotus isegi siis, kui kasutajad selle allalaadivad, tagades püsiva läbipaistvuse platvormi meediajagamise maastikul.
Põhilised küsimused ja vastused:
1. Mis ajendas TikToki otsust lisada AI-sisu sildid?
TikToki otsus lisada AI-sisu silte on tõenäoliselt vastus laiemale vestlusele ja murele seoses deepfake’ide, desinformatsiooni ning sisu päritolu läbipaistvusega. Märkides AI-genereritud sisu, soovib TikTok pakkuda kasutajatele kohest eristamist selle kohta, millise sisuga nad kokku puutuvad.
2. Kuidas otsustab TikTok, millist sisu AI-genereritud sildiga märgistada?
Sisu sildistatakse AI-genererituna metaandmete alusel, mis tuvastavad, kas selle loomisel kasutati AI-tööriistu ja teenuseid, sealhulgas TikToki sisemisi AI-efekte või väliseid teenuseid, mis kuuluvad C2PA raamistikku, nagu DALL·E 3.
3. Millised on tagajärjed sisu loojatele ja kasutajatele?
Sildistamissüsteem lisab sisuloome protsessile vastutuse ja läbipaistvuse kihi. Kasutajad saavad parema ülevaate tarbitava sisu päritolust, mis võib mõjutada nende usaldust ja arusaama selle sisu suhtes.
Peamised väljakutsed ja vaidlusalased küsimused:
– Standardiseerimine: C2PA standardite üldiseks vastuvõtmiseks on väljakutseid ja nõuab tööstusharuülest koostööd.
– Tõhusus ja täpsus: Süsteemi võimalik ekslik sildistamine või sildistamata jätmise potentsiaal tõstab muret siltide usaldusväärsuse kohta.
– Privaatsus: Selliste süsteemide rakendamine hõlmab tundlike metaandmete haldamist, mis võib kaasa tuua privaatsusküsimusi või soovimatuid tagajärgi, kui neid halvasti kasutatakse või häkitakse.
– Kasutajate taju: Kuidas kasutajad tajuvad ja võivad stigmatiseerida AI-genereritud sisu siltide tõttu, võivad mõjutada sisuloojate valmisolekut AI-tööriistu kasutada.
Eelised:
– Läbipaistvus ja usaldusväärsus: Selge sildistamine võib soodustada läbipaistvamat keskkonda, luues usaldust kasutajatega, kes soovivad teada sisu päritolu.
– Desinformatsiooni vastane võitlus: Sildid võivad aidata leevendada desinformatsiooni levikut teavitades kasutajaid sisu sünteetilisest iseloomust.
Puudused:
– Liigne siltidele lootmine: Kasutajad võivad muutuda ülemäära sildistele lootvaks, potentsiaalselt eiravalt suhtudes mitte-sildistatud sisusse, mis võib olla samuti eksitav või ebatäpne.
– Sildistamisvead: Valepositiivsed või valenegatiivsed sildistamises võivad tekitada segadust ja kahandada süsteemi usaldusväärsust.
Lisateabe saamiseks sisu autentsusega seotud laiematest pingutustest võid külastada asjaomaste ettevõtete ja algatuste peamisi lehti:
– TikTok
– Microsoft
– Adobe
– OpenAI