U nedavnom ispitivanju tvrtki, Nadzorni odbor Meta platforme pokrenuo je istragu o postupanju s dvije seksualno eksplicitne slike generirane umjetnom inteligencijom (AI) koje su prikazivale poznate žene na platformama društvenih medija. Neovisni odbor, koji djeluje uz financijsku podršku Meta platforme, planira procijeniti učinkovitost Meta politika i praksi istražujući ove konkretne incidente.
Predstavnik odbora izvijestio je o ovom pitanju, ističući važnost zaštite od daljnje štete. Svjesno su odlučili ne otkriti identitete poznatih osoba prikazanih na slikama kako bi spriječili pogoršanje situacije. Sofisticirana priroda tehnologije AI-a zamaglila je granicu između umjetnog i autentičnog sadržaja na mreži, postavljajući ozbiljne posljedice, posebice za prikazivanje lažnih eksplicitnih materijala koji ciljaju žene i djevojčice.
Incidenti visokog profila ranije ove godine istaknuli su izazov s kojim se suočavaju tehnološke platforme u reguliranju širenja takvog sadržaja. Na primjer, glavna društvena medijska platforma u vlasništvu Elona Muska našla se u poteškoćama kontrolirajući distribuciju obscenih lažnih slika, što je dovelo do privremenog ograničenja pretraga povezanih s američkom pjevačicom Taylor Swift.
Neki vodeći industrijski čelnici zagovaraju stvaranje pravnih okvira koji bi kriminalizirali proizvodnju hiperrealističnih lažnih slika, poznatih kao “deep fakeovi”, i obvezali tehnološke tvrtke da spriječe korištenje svojih tehnologija u te svrhe.
Prema izjavama Nadzornog odbora Meta platforme, jedna od spornih slika potječe s Instagram računa koji isključivo distribuira AI-generirane slike indijskih žena, uključujući i sličnost s poznatom indijskom osobom. Druga slika, pojavila se u Facebook grupi koja dijeli AI-generirani sadržaj, prikazivala je figuru nalik na poznatu američku ženu u eksplicitnoj sceni.
Meta platforma reagirala je uklanjanjem slike koja prikazuje Amerikanku zbog kršenja svojih politika protiv maltretiranja i uznemiravanja uključujući “manipulirane slike s ponižavajućim seksualnim sadržajem”. Međutim, slika koja uključuje indijsku figuru prvotno nije dirana i uklonjena je tek nakon što je Nadzorni odbor započeo svoju istragu.
Meta je priznala incidente i obavezala se provoditi odluke Nadzornog odbora u tim pitanjima.
Trenutni trendovi na tržištu: Povećana prisutnost AI-generiranog sadržaja na društvenim mrežama potaknula je razne trendove i izazove. AI se razvio do točke gdje generiranje realističnih slika, videa i tekstova postaje sve jednostavnije. To je dovelo do pozitivnih efekata, poput automatizacije kreativnih zadataka i personalizacije korisničkog iskustva, ali i negativnih, uključujući stvaranje deep fakeova i neprikladnog sadržaja.
Za društvene medijske tvrtke, AI može biti mač s dvije oštrice. Omogućava moćnu moderaciju sadržaja putem automatiziranog otkrivanja povreda politika, ali istovremeno omogućava stvaranje realističnog lažnog sadržaja koji može izbjeći algoritme detekcije. Stoga ove tvrtke kontinuirano ažuriraju svoje algoritme kako bi bile u koraku s ovim napretkom.
Prognoze: Očekuje se da će AI postati još napredniji u bliskoj budućnosti, što znači da će generiranje i otkrivanje neprikladnog sadržaja uključivati kontinuiranu utrku u naoružanju. Očekuje se povećana potražnja za naprednijim alatima za moderiranje sadržaja i jasnijim regulatornim okvirom.
Ključni izazovi ili kontroverze: Korištenje AI-a za generiranje neprikladnih slika postavlja ključna pitanja o privatnosti, privoli i šteti osobama prikazanim bez njihovog odobrenja. Postoji ongoing debate o tome tko bi trebao biti odgovoran – tvorci AI-a, korisnici koji generiraju i distribuiraju sadržaj ili platforme koje ga hostaju.
Posebno su istaknuti deep fakeovi kao značajna prijetnja kako individualnim reputacijama tako i širem društvenom povjerenju. S poboljšanjem tehnologije, granica između stvarnog i lažnog sadržaja nastavlja se zamagljivati, stvarajući izazove za policijske snage, moderatore sadržaja i širu javnost.
Prednosti i nedostaci:
– Prednosti:
– AI može poboljšati učinkovitost moderacije sadržaja automatskim otkrivanjem povreda politika.
– Pojavljuju se nove kreativne mogućnosti za legitimne primjene AI-generiranog sadržaja u umjetnosti, zabavi i obrazovanju.
– Nedostaci:
– AI-generirani sadržaj može se zloupotrijebiti kako bi se imitirale, blatile ili ucjenjivale osobe.
– Može podrivati povjerenje u digitalne medije, čineći teškim razlikovanje istine od manipulacije.
– Mogućnost štete je značajna, posebno kada su žene i djevojčice nerazmjerno ciljane neprikladnim AI-generiranim materijalom.
Za daljnje istraživanje o politikama i regulativi AI-a, razmislite o posjeti sljedećim poveznicama:
– Etika i društvo umjetne inteligencije: Konferencija AIES
– Politika oko AI-a: OECD
– Globalno upravljanje AI-om: Svjetski ekonomski forum
Važno je napomenuti da su ove poveznice pružene u informativne svrhe i ne odnose se izravno na specifične akcije Nadzornog odbora Meta platforme ili incidente spomenute u članku. One nude opće resurse za razumijevanje šireg konteksta politika i regulative AI-a.
The source of the article is from the blog procarsrl.com.ar