Porast AI-generirane eksplicitne imagery na društvenim mrežama
Umjetna inteligencija (AI) doprinosi širenju eksplicitnog materijala na društvenim mrežama što izaziva zabrinutost u pogledu potrebe za strožom regulacijom. Na Instagramu, pretraga za ‘aigirl’ izlistala je otprilike 1,18 milijuna objava, od kojih je većina bila eksplicitne slike ističući određene dijelove ženskog tijela. Ove virtualne kreacije sadržaja često uključuju objektivizaciju žena putem umjetno generiranih tijela.
Poteškoće u razlikovanju AI-generiranog sadržaja
Slični trendovi pojavili su se na platformama koje su ranije povezane s Twitterom, gdje su pronađeni računi koji promoviraju sugestivan sadržaj pod krinkom virtualnih likova. Dostupnost takvog sadržaja izazvala je uzbunu među korisnicima svih dobnih skupina. Korisnica Instagrama u dobi od 15 godina izrazila je uznemirenost prilikom nasumičnog susreta s tim eksplicitnim slikama.
Sophisticiranost AI tehnologije takva je da korisnicima može biti izazovno razlikovati stvarni i virtualni sadržaj; često realističan izgled generiranih fotografija i videa lako može prevariti gledatelje.
Rupe u regulaciji kod rukovanja AI-generiranim eksplicitnim materijalom
Kao odgovor na potencijalnu štetu uzrokovanu deepfake videima, koji prekrivaju stvarna lica s eksplicitnim materijalom, regulatorna tijela počela su poduzimati akcije nadziranja i blokiranja takvog sadržaja prema posebnim zakonima protiv seksualnog nasilja. Međutim, virtualni eksplicitni sadržaj generiran AI-em spada u sivu zonu jer ne uključuje stvarne osobe, i stoga se trenutno svrstava kao ‘opći eksplicitni materijal.’ To ukazuje na problematično područje za zakonodavce, potičući potrebu za razmatranjem kako bi se postojeći propisi mogli prilagoditi kako bi obuhvatili AI-generirani eksplicitni materijal koji ne spada pod deepfake-tehnologiju ili druge već regulirane oblike sadržaja.
Pojavljivanje deepfake tehnologije i izazovi u regulaciji
Uvođenje deepfake tehnologije otvorilo je novo područje u stvaranju eksplicitnog sadržaja. Deepfake koristi AI i strojno učenje kako bi prekrili lik osobe s drugim tijelom, često bez pristanka. Ova tehnologija otvorila je etičke i pravne izazove, budući da se može koristiti za stvaranje uvjerljivo realnih slika i videa koji mogu narušiti reputaciju i povrijediti privatnost.
Potreba za detekcijom AI sofisticiranosti
Značajan izazov je razvoj tehnologije koja može držati korak s uvijek poboljšavajućom kvalitetom AI-generirane imagery. Društvene mreže zadužene su za tešak zadatak implementiranja alata za detekciju koji mogu razlikovati umjetni sadržaj od korisnički stvorenog sadržaja. Neuspjeh u tome mogao bi rezultirati širom rasprostranjenom dezinformacijom i zloupotrebom, pogađajući kako osobne tako i društvene norme.
Uticaj na društvene norme i psihičko stanje pojedinca
Širenje AI-generiranog eksplicitnog sadržaja izaziva zabrinutost zbog njegovih učinaka na društvo, posebno na rodne stereotipe i objektifikaciju žena. To se proteže na pojedince, budući da izloženost takvim nerealnim tijelima može utjecati na samopouzdanje i sliku tijela, posebno kod mlađe, dojmljive populacije.
Pravni i etički aspekti
Pravni okvir oko AI-generiranog eksplicitnog materijala je složen. Budući da su prikazane osobe virtualne, tradicionalni zakoni o privatnosti ili pravima na sliku možda se ne primjenjuju na isti način kao na stvarne osobe. To dovodi u pitanje postojeće okvire koji reguliraju pornografiju i cyberbullying, zahtijevajući reevaluaciju zakona.
Prednosti i nedostaci
Prednosti:
– AI tehnologija može se koristiti za pozitivne primjene u kreativnim industrijama, obrazovnom sadržaju i drugdje.
– AI-generirani sadržaj može izbjeći neka etička pitanja vezana uz iskorištavanje ljudskih glumaca u stvaranju odraslog sadržaja.
Nedostaci:
– AI-generirani eksplicitni materijal može otupiti gledatelje i doprinijeti normalizaciji preseksualiziranog sadržaja.
– Može podkopati napore u borbi protiv objektifikacije i iskorištavanja pojedinaca, posebno žena.
– Postoji rizik pogoršanja mentalnih problema povezanih s slikom tijela, seksualnošću i pristankom.
Predloženi povezani linkovi s glavnom tematskom domenom uključuju vjerodostojne organizacije i institucije odgovorne za etiku i regulaciju AI-a. Važno je koristiti pouzdane i sigurne izvore za daljnja istraživanja i informacije. Evo nekoliko primjera:
– Svjetska organizacija za intelektualno vlasništvo (WIPO)
– Međunarodna telekomunikacijska unija (ITU)
– Svjetska zdravstvena organizacija (WHO)
– Ujedinjeni narodi (UN)
Važno je prepoznati da mnoge izazove proizlaze iz brzog razvoja AI tehnologije koji nadmašuje zakonodavstvo usmjereno na eksplicitan sadržaj i zaštitu prava pojedinaca na internetu. U budućnosti će biti potreban Višestruk pristup koji obuhvaća tehnološku inovaciju, zakonodavstvo, obrazovanje i zagovaranje kako bi se učinkovito regulirao AI-generirani eksplicitni sadržaj na društvenim mrežama.
The source of the article is from the blog lanoticiadigital.com.ar