Napredovanje tehnologije umetne inteligence (UI) je prineslo številne koristi in napredke v različnih panogah. Vendar pa je med tem napredkom prišla na dan tudi tema strani UI, saj strokovnjaki za otroško varnost in raziskovalci opozarjajo na morebitna tveganja, ki jih prinaša pri poslabšanju spletnega izkoriščanja.
Po podatkih ameriškega nacionalnega centra za pogrešane in izkoriščene otroke (NCMEC) je bilo lani 4700 poročil o UI ustvarjenem vsebinah, ki prikazujejo izkoriščanje otrok. Ti zaskrbljujoči podatki kažejo na pojav problema, ki se bo pričakovan napredek tehnologije UI samo še povečal.
Čeprav NCMEC še ni razkril skupnega števila poročil o vsebinah zlorabe otrok, ki jih je prejel iz vseh virov leta 2023, je organizacija razkrila, da je prejela približno 88,3 milijona datotek samo leta 2022. Ta poročila prihajajo iz samih družb, ki uporabljajo generatorje UI, spletnih platform in posameznikov, ki naletijo na motnjene vsebine.
Zavedajoč se nujnosti reševanja te težave, ima NCMEC pomembno vlogo kot nacionalno središče za poročanje o vsebinah zlorabe otrok organom pregona. John Shehan, višji podpredsednik pri NCMEC, je poudaril, da je izkoriščanje otrok s pomočjo UI nesporno dejstvo.
Nedavno so se izvršni direktorji podjetij Meta Platforms, X, TikTok, Snap in Discord soočili s preverjanjem v senatnem zaslišanju, ki se je osredotočilo na varnost otrok na spletu. Zakonodajalci so preiskovali te družbene medije in podjetja za sporočanje o njihovih prizadevanjih za zaščito otrok pred spletnimi plenilci.
Raziskovalci na Stanford University so v juniju izdali poročilo, ki opozarja na zaskrbljujočo možnost, da zlorabniki uporabljajo generatorje UI za ustvarjanje novih slik, ki zelo podobno izgledajo kot pravi otroci. Ker te UI ustvarjene materiale postajajo vse bolj fotorealistične, ločevanje med resničnimi žrtvami in UI stvaritvami predstavlja pomemben izziv.
Da bi se spopadli s tem rastočim problemom, je organizacija OpenAI, ki stoji za priljubljenim orodjem ChatGPT, uvedla sistem za posredovanje poročil NCMEC-ju. Poleg tega potekajo pogovori med NCMEC in drugimi družbami, ki uporabljajo generativne UI, o vzpostavitvi podobnih ukrepov.
Naraščanje UI prinaša tako inovacije kot tudi odgovornosti. Ko se družba še naprej posveča tehnologiji UI, je bistveno, da ostanemo budni in se soočimo z novimi skrbmi za zaščito dobrega počutja ogroženih posameznikov, še posebej otrok.
Pogosta vprašanja:
V: Kaj je temna stran UI?
O: Temna stran UI se nanaša na potencialna tveganja in negativne posledice tehnologije umetne inteligence, predvsem pri poslabšanju spletnega izkoriščanja.
V: Koliko poročil je bilo lani o UI ustvarjenih vsebinah, ki prikazujejo izkoriščanje otrok?
O: Po podatkih NCMEC je bilo lani 4700 poročil o UI ustvarjenih vsebinah, ki prikazujejo izkoriščanje otrok.
V: Koliko datotek je NCMEC prejel leta 2022 v zvezi z vsebinami zlorabe otrok?
O: NCMEC je leta 2022 prejel približno 88,3 milijona datotek v zvezi z vsebinami zlorabe otrok.
V: Kakšna je vloga NCMEC-a pri obravnavanju te težave?
O: NCMEC ima pomembno vlogo kot nacionalno središče za poročanje o vsebinah zlorabe otrok organom pregona.
V: Katera družbena omrežja in podjetja za sporočanje so se soočila s preverjanjem na senatnem zaslišanju o varnosti otrok na spletu?
O: Izvršni direktorji podjetij Meta Platforms, X, TikTok, Snap in Discord so se soočili s preverjanjem na senatnem zaslišanju o varnosti otrok na spletu.
V: Kaj je poudarilo poročilo Stanford University?
O: Poročilo Stanford University je izpostavilo zaskrbljujočo možnost, da zlorabniki uporabljajo generativne UI za ustvarjanje novih slik, ki zelo podobno izgledajo kot pravi otroci.
V: Katere ukrepe so sprejeli OpenAI in druge družbe, ki uporabljajo generativne UI, za boj proti tem problemom?
O: OpenAI je uvedel sistem za posredovanje poročil NCMEC-u, poleg tega pa potekajo pogovori med NCMEC in drugimi družbami, ki uporabljajo generativne UI, o vzpostavitvi podobnih ukrepov.
Opredelitve:
– UI (Umetna inteligenca): Tehnologija, ki omogoča strojem izvajanje nalog, ki bi sicer zahtevale človeško inteligenco.
– Vsebine zlorabe otrok: Vsebine, ki prikazujejo izkoriščanje ali zlorabo otrok.
– Generativne UI: Umetna inteligenca, ki je sposobna ustvarjati nove podatke ali vsebine, kot so slike ali besedilo.
– NCMEC (Nacionalni center za pogrešane in izkoriščene otroke): Nacionalna organizacija, ki se zavzema za preprečevanje ugrabitev otrok, izkoriščanja otrok in iskanja pogrešanih otrok.
– Družbena omrežja in podjetja za sporočanje: Podjetja, ki zagotavljajo spletna mesta in storitve za uporabnike, da se povezujejo, komunicirajo in delijo vsebine z drugimi.
Predlagane povezave:
Nacionalni center za pogrešane in izkoriščene otroke
OpenAI
Stanford University
The source of the article is from the blog girabetim.com.br