Napredak tehnologije umjetne inteligencije (UI) donio je brojne koristi i napretke u različitim industrijama. Međutim, usred ovog napretka, tamna strana UI-a je izronila, jer stručnjaci za sigurnost djece i istraživači upozoravaju na potencijalne rizike koje donosi u pogoršanju online zlostavljanja.
Prema Nacionalnom centru za nestalu i iskorištenu djecu (NCMEC) Sjedinjenih Američkih Država, prošle je godine prijavljeno 4.700 slučajeva povezanih s UI-generiranim sadržajem koji prikazuje seksualno iskorištavanje djece. Ovaj alarmantni broj ukazuje na pojavu problema koji se očekuje da će rasti kako UI tehnologija nastavlja napredovati.
Iako NCMEC još nije otkrio ukupan broj prijava sadržaja zlostavljanja djece koji je primio iz svih izvora u 2023. godini, organizacija je otkrila da je samo u 2022. godini primila otprilike 88,3 milijuna datoteka. Ove prijave dolaze od samih kompanija za generativnu UI, online platformi i pojedinki koje naiđu na takav uznemirujući sadržaj.
Prepoznajući hitnu potrebu za rješavanjem ovog problema, NCMEC igra ključnu ulogu kao nacionalno središte za prijavljivanje sadržaja zlostavljanja djece policijskim agencijama. John Shehan, viši potpredsjednik u NCMEC-u, naglasio je da se zlostavljanje djece putem UI-a neosporno događa.
Nedavno su se izvršni direktori kompanija Meta Platforms, X, TikTok, Snap i Discord suočili s ispitivanjem na senatskom saslušanju koje se fokusiralo na sigurnost djece na internetu. Zakonodavci su istraživali ove društvene medije i kompanije za razmjenu poruka o njihovim naporima u zaštiti djece od online predatora.
Istraživači u Stanfordovom internet observatoriju izdali su izvještaj u lipnju u kojem su istaknuli zabrinjavajući potencijal za zlostavljače da koriste generativnu UI za stvaranje novih slika koje tjelesno sliče stvarnoj djeci. Kako ovi UI-generirani materijali postaju sve više fotorealistični, razlikovanje između stvarnih žrtava i UI kreacija predstavlja značajan izazov.
Da bi se suzbio ovaj rastući problem, OpenAI, organizacija koja stoji iza popularnog ChatGPT-a, uspostavila je sustav za prenošenje izvješća NCMEC-u. Također, u tijeku su razgovori između NCMEC-a i drugih kompanija za generativnu UI kako bi se uspostavile slične mjere.
Porast UI-a donosi inovacije, ali i odgovornosti. Dok društvo nastavlja prihvaćati UI tehnologiju, ključno je ostati budan i adresirati nove brige kako bi se zaštitilo dobrobit ranjivih osoba, posebno djece.
Često postavljana pitanja:
P: Što je tamna strana UI-a?
O: Tamna strana UI-a odnosi se na potencijalne rizike i negativne implikacije tehnologije umjetne inteligencije, posebno u pogoršanju online zlostavljanja.
P: Koliko je prijava prošle godine bilo vezano uz UI-generirani sadržaj koji prikazuje seksualno iskorištavanje djece?
O: Prema NCMEC-u, prošle godine je prijavljeno 4.700 slučajeva vezanih uz UI-generirani sadržaj koji prikazuje seksualno iskorištavanje djece.
P: Koliko datoteka je NCMEC primio u 2022. godini vezanih uz sadržaj zlostavljanja djece?
O: NCMEC je samo u 2022. godini primio otprilike 88,3 milijuna datoteka vezanih uz sadržaj zlostavljanja djece.
P: Koju ulogu ima NCMEC u rješavanju ovog problema?
O: NCMEC igra ključnu ulogu kao nacionalno središte za prijavljivanje sadržaja zlostavljanja djece policijskim agencijama.
P: Koje su društvene medije i kompanije za razmjenu poruka ispitana na senatskom saslušanju o sigurnosti djece na internetu?
O: Izvršni direktori kompanija Meta Platforms, X, TikTok, Snap i Discord su ispitivani na senatskom saslušanju o sigurnosti djece na internetu.
P: Što je izvještaj Stanfordovog internet observatorija istaknuo?
O: Izvještaj Stanfordovog internet observatorija istaknuo je zabrinjavajući potencijal za zlostavljače da koriste generativnu UI za stvaranje novih slika koje tjelesno sliče stvarnoj djeci.
P: Kakve mjere su poduzele OpenAI i druge kompanije za generativnu UI kako bi suzbile ovaj problem?
O: OpenAI je uspostavio sustav za prenošenje izvješća NCMEC-u, a u tijeku su razgovori između NCMEC-a i drugih kompanija za generativnu UI kako bi se uspostavile slične mjere.
Definicije:
– UI (umjetna inteligencija): Tehnologija koja omogućuje strojevima obavljanje zadataka koji bi inače zahtijevali ljudsku inteligenciju.
– Sadržaj zlostavljanja djece: Sadržaj koji prikazuje seksualno iskorištavanje ili zlostavljanje djece.
– Generativna UI: Umjetna inteligencija koja je sposobna generirati nove podatke ili sadržaj, poput slika ili teksta.
– NCMEC (Nacionalni centar za nestalu i iskorištenu djecu): Nacionalna organizacija koja se fokusira na sprečavanje otmica djece, seksualnog iskorištavanja djece i pronalaženje nestale djece.
– Društvene medije i kompanije za razmjenu poruka: Kompanije koje pružaju online platforme i usluge korisnicima za povezivanje, komuniciranje i dijeljenje sadržaja s drugima.
Predložene poveznice:
Nacionalni centar za nestalu i iskorištenu djecu
OpenAI
Stanford Sveučilište
The source of the article is from the blog revistatenerife.com