Uznemiravajuće prakse umjetne inteligencije ugrožavaju djecu
Human Rights Watch objavio je zabrinjavajuće otkriće u vezi s zloupotrebom osobnih slika pomoću alata umjetne inteligencije (AI). Izvješće detaljno opisuje da su fotografije brazilskih mladih, koje prikazuju intimne životne trenutke poput rođenja djece, proslava rođendana i školskih događaja, korištene bez odobrenja u svrhu razvoja AI-a.
Ovi privatni trenuci otkriveni su u bazi podataka LAIon-5B, obuhvatnoj kolekciji koja se koristi za obuku AI-a i sastoji se od preko 5 milijardi slika. Broj pronađenih dječjih fotografija predstavlja manji postotak ukupne baze podataka, međutim, otkriće je podiglo važna upozorenja o privatnosti i suglasnosti.
Rizici dubinskih lažnih sadržaja za maloljetnike
Hye Jung Han, istraživačica za djecu i tehnologiju u Human Rights Watch, objasnila je da AI tehnologija omogućuje stvaranje realističnih slika i scena, što se može učiniti za sekunde, slobodno i lako. Ova tehnologija nesvjesno je olakšala stvaranje štetnih i ne-suglasnih dubinskih lažnih sadržaja – izmijenjenih videozapisa i slika distribuiranih širom interneta.
Neuspjesi privatnosti i napori za ispravke
Sakupljene fotografije brazilskih djece, iako nisu dostupne putem internetskih pretraživanja i moguće su postavljene prije godina ili čak desetljeća, pristupile su AI alati, razotkrivajući moguće propuste velikih korporacija i društvenih medijskih platformi u zaštiti privatnosti korisnika.
Njemačka institucija odgovorna za LAION-5B provjerila je prisutnost ovih osobnih fotografija u svojem skupu podataka i obećala ih eliminirati, dovodeći u pitanje mogućnost da AI modeli precizno repliciraju osobne podatke. Ipak, LAION sugerira roditeljima i djeci da preuzmu inicijativu uklanjanja svojih slika s interneta, smatrajući da je samostalno djelovanje najučinkovitija obrana protiv zloupotrebe.
Zalaganje za zakonodavstvo o digitalnim pravima
Maria Mello, koordinator programa za djecu i potrošnju u Institutu Alana, zalaže se za primjenu postojećih zakona u digitalnom području radi zaštite korisnika, ističući nužnost ustanovljavanja skrbničkih obveza za djecu i adolescente jer su među najranjivijima online.
Zloupotreba osobnih fotografija maloljetnika iz Brazila ističe nekoliko ključnih pitanja, izazova i kontroverzi u vezi s privatnošću u doba AI:
Važna pitanja:
1. Koje mjere postoje kako bi se osiguralo da AI alati ne zloupotrebljavaju osobne podatke?
2. Kako roditelji i djeca mogu sebe zaštititi od takvih zloupotreba?
3. Koje su posljedice korištenja slika djece bez suglasnosti u AI sustavima?
Odgovori:
1. Primjena AI aplikacija općenito je regulirana zakonima o zaštiti podataka i privatnosti, koji variraju po zemljama. To uključuje propise poput GDPR-a u Europi. Međutim, provedba može biti izazovna, a razvojni programeri AI-a mogu dobiti podatke iz izvora koji možda nisu propisno osigurali suglasnost od osoba koje su prikazane.
2. Roditeljima i djeci savjetuje se oprez pri dijeljenju sadržaja online, korištenje postavki privatnosti i zahtijevanje uklanjanja slika s internetskih platformi koje su možda podijeljene bez suglasnosti.
3. Korištenje osobnih slika djece bez suglasnosti za AI može dovesti do kršenja privatnosti, krađe identiteta i psihičke štete, posebno ako se te slike koriste za stvaranje dubinskih lažnih sadržaja.
Ključni izazovi i kontroverze:
– Suglasnost i privatnost: Nedostatak informirane suglasnosti od maloljetnika ili njihovih skrbnika prije upotrebe njihovih slika u AI skupovima podataka temeljno je kršenje prava na privatnost.
– Regulacija: Postoji trajna rasprava o tome kako bi se trebala regulirati AI tehnologija i prikupljanje podataka, posebno u vezi s pravima i zaštitom djece.
– Provedba: Čak i uz propise, provedba zakona o privatnosti na globalnoj razini složena je, budući da se skupovi podataka AI-a mogu sastaviti iz raznih međunarodnih izvora.
Prednosti AI alata:
– AI može unaprijediti obrazovne alate, čineći učenje interaktivnijim i personaliziranim za djecu.
– AI pokretane aplikacije mogu pružiti praktičnost i sigurnosne značajke, poput praćenja zdravlja i dobrobiti.
Mane AI alata:
– Potencijalne povrede privatnosti kada se osobne fotografije zloupotrebljavaju.
– Izazovi u upravljanju suglasnosti, osobito kada podaci potječu od maloljetnika.
– Mogućnost da se AI koristi za stvaranje dubinskih lažnih sadržaja koji mogu iskorištavati i štetiti pojedincima.
Na kraju, zalaganja i zakonodavni napori poput onih koje podržava Institut Alana naglašavaju važnost prilagođavanja digitalnih prava i zaštita uzimajući u obzir ranjivost dječjih korisnika. Ključno je primjenu postojećih zakona u digitalnom kontekstu kako bi se osigurala sigurnost i privatnost maloljetnika online.
Za dodatne informacije, sljedeći linkovi mogu biti korisni:
– Human Rights Watch
– Institut Alana
– Europska komisija (za informacije o GDPR-u)
Molimo vas da uvijek provjerite URL-ove i njihov sadržaj prije pristupa.