TikTok seatse uue läbipaistvuse standardi sotsiaalmeedia jaoks, tutvustades AI-genereritud sisu märgendamist. Sel nädalal paljastas TikToki COO Adam Presser ABC uudistes, et platvorm suurendab kasutajate teadlikkust, eristades AI-manipuleeritud meediat sisuautentsusetunnuste abil.
Sisuautentsusetunnuste rakendamine sümboliseerib koostööd, mida juhib Sisutõepärasuse Algatus (CAI) ja Sisu Päritolu ja Autentsuse Koalitsioon (C2PA), kuhu kuuluvad sellised hiiglased nagu EFE Agency, Google, Intel, Microsoft, OpenAI, Adobe ja TikTok ise. See osav tehnoloogia integreerib metateavet piltidesse, olgu need siis fotod, videod või illustratsioonid, jälgides nende muudatusi, et võimaldada kasutajatel nende päritolu jälgida.
Varajase sotsiaalvõrgustiku kasutajana soovib TikTok võimaldada oma kogukonnal vahet teha autentsete loomingu ja valesünnitiste vahel. OpenAI, kes on ChatGPT loojad, teatasid varem, et nende süsteemid, nagu pildiloomingu DALL.E 3 ja videolooja Sora, kasutavad seda autoriteerimistehnoloogiat. Samamoodi avalikustas Meta oma kavatsuse märkida sünteetiline sisu ära Facebookis ja Instagramis juba veebruaris.
Selliste meetmete vajalikkust rõhutab AI-genereritud piltide veebi suur hulk, mis ulatus hinnanguliselt 15 miljardi pildini aastatel 2022 kuni 2023. Kui platvormid nagu TikTok neid uuendusi omaks võtavad, saavad kasutajad oodata suuremat sisu selgust oma sotsiaalmeedia kogemustes.
TikTok’i rakendatava AI-sisu tuvastamise tehnoloogia abil meedia märgendamise teema kui AI-manipuleeritud või inimese poolt autentselt loodud on põimitud üldisematesse aruteludesse meediatervikluse ja võitluse kohta valeinfo vastu. Siin on mõned täiendavad faktid, olulised küsimused, väljakutsed, vaidlused, eelised ja puudused seotud teemaga:
Faktid:
– Deepfake’id ja sünteetiline meedia tõus on sundinud paljusid platvorme otsima viise märkida sisu, mis on AI-ga genereeritud või muudetud.
– Sisuautentsusetunnused on mõeldud parandama digitaalset meediakirjaoskust, võimaldades kasutajatel teha paremini informeeritud otsuseid selle sisu tarbimisel.
– AI-süsteemid muutuvad järjest keerukamaks, tehes selle tavakasutajale raskemaks tuvastatud sisu muutmiseks ilma abita.
Olulised küsimused ja vastused:
– K: Miks on sisu tuvastamine sotsiaalmeedias oluline?
– <b:V: See on oluline valeinfo leviku ennetamisel ja aitab kasutajatel usaldada sisu, mida nad näevad, mis on hädavajalik digiajastul, kus muudetud meediat võib kasutada pettuslikel või kahjulikel eesmärkidel.
– <b:K: Kuidas töötab AI-sisu tuvastamise tehnoloogia?
– <b:V: See tehnoloogia analüüsib tavaliselt digitaalset meediat, et avastada inimeste jaoks raskesti märgatavaid muutuste märke ning lisab metateavet, mis jälgib sisu loomist ja muutmist.
Olulised väljakutsed ja vaidlused:
– Tasakaalu leidmine läbipaistvuse ja privaatsuse ning loojate õiguste vahel võib olla keeruline – loojad võivad soovida, et iga muudatus ei registreeritaks, ja privaatsuse eest võitlejad võivad sageli vastu seista kogu metateabe kogunemisele.
– Veendumine selles, et kasutatav AI-tehnoloogia suudab usaldusväärselt vahet teha ehtsa ja muudetud sisu vahel, on üks väljakutsetest.
– Märgistamise väärkasutamise oht, kus sisu võidakse ebaõiglaselt või valesti märgistada, põhjustades tsensuuri muret.
Eelised:
– Toetab läbipaistvust ja aitab võidelda valeinfo leviku vastu.
– Toetab kasutajaid paremate otsuste tegemisel selle kohta, millele internetis usalduda.
– Seatud pretsedent muudele sotsiaalmeedia platvormidele vastutuse võtta seoses sisuga.
Puudused:
– Metateavet võib valesti tõlgendada või manipuleerida, põhjustades valeinfo levikut valeinfo kohta.
– On oht, et tehnikale liiga suure usalduse andmise korral võib see kriitilise mõtlemise osas kasutajatele toimida karkudena.
Seotud lingid:
Lisainfo saamiseks laiemas kontekstis võite külastada organisatsioonide ja tehnoloogiaga seotud ettevõtete peakodulehti:
– Sisutõepärasuse Algatus
– Sisu Päritolu ja Autentsuse Koalitsioon
– Meta
– Google
– Intel
– Microsoft
– OpenAI
– Adobe
– TikTok
Pange tähele, et need URL-id viivad peakodadeni, mis on autoriteetsed ja tavaliselt käsitletakse usaldusväärsete allikatena selle teema kohta.