Dirbtinio intelekto (DI) technologijų pažanga atnešė nemažai naudos ir pažangos įvairiose pramonės šakose. Tačiau šios pažangos fone išaiškėjo DI tamsioji pusė, kai vaikų saugos ekspertai ir tyrimai įspėja apie potencialius rizikos veiksnius, susijusius su internetiniu išnaudojimu.
Pasak JAV Nacionalinio centrinio visuomenės saugumo centro (NCMEC), pernai buvo pateikta 4 700 pranešimų, susijusių su DI sukurtu turiniu, kuriame vaikai seksualiai išnaudojami. Šis įspėjamasis skaičius rodo, jog tai yra problemos, kuri tikisi augimo, kaip ir DI technologija.
Nors NCMEC dar negalima atskleisti visų vaikų išnaudojimo turiniui skirtų pranešimų, gautų iš visų šaltinių 2023 metais, organizacija patikino, kad vien tik 2022 metais ji gavo maždaug 88,3 milijono failų pranešimus. Šie pranešimai ateina tiek iš generuotų DI įmonių pačių, tiek iš internetinių platformų, tiek nuo individų, kurie atsitiktinai susiduria su tokiu šokiruojančiu turiniu.
Pripažindama šios problemos skubų sprendimo poreikį, NCMEC atlieka gyvybiškai svarbų vaidmenį kaip nacionalinė švietimo įstaiga, teikiant informaciją apie vaikų išnaudojimo turinį teisėsaugos institucijoms. Džonas Šehanas, NCMEC vyriausiasis viceministras, pabrėžė, kad neginčijamai vyksta vaikų išnaudojimas, palengvinamas DI.
Neseniai „Meta Platforms”, „X”, „TikTok”, „Snap” ir „Discord” generaliniai direktoriai Buvo apklausiami Senato klausymuose, orientuotuose į internetinę vaikų saugą. Įstatymų leidėjai įrodinėjo šioms socialinių tinklų ir pranešimų kompanijoms apie jų pastangas apsaugoti vaikus nuo interneto plėšikų.
Stanfordo interneto stebėsenos tyrėjai birželį paskelbė pranešimą, kuriame akcentuojama pavojinga galimybė piktnaudžiauti generuojančiu DI norint sukurti naujus vaizdus, kurie labai artėja prie tikriems vaikams atitinkančių. Šie DI sukurti medžiagos tampa vis labiau foto-realistic ir nustatyti skirtumą tarp tikrų aukų ir DI kūrybos tampa dideliu iššūkiu.
Norėdama kovoti su šia augančia problema, populiarus „ChatGPT” sistemos kūrėjas OpenAI pradėjo pranešimus perduoti NCMEC. Be to, vyksta diskusijos tarp NCMEC ir kitų generuojančių DI įmonių norint nustatyti panašius veiksmus.
DI plėtra atneša ir inovacijas, ir atsakomybę. Kadangi visuomenė ir toliau įsileidžia DI technologiją, labai svarbu išlikti budriems ir spręsti iškilusias problemas siekiant saugoti pažeidžiamų individų, ypač vaikų, gerovę.
DUK:
K: Ką reiškia DI tamsioji pusė?
A: DI tamsioji pusė apie potencialius rizikos veiksnius ir neigiamus DIR technologijų reiškinius, ypač dėl internetinio išnaudojimo stiprinimo.
K: Kiek buvo pranešimų pernai dėl aiškinti vaikų seksualinio išnaudojimo sukurtu DI turiniu?
A: NCMEC duomenimis, pernai buvo pateikta 4 700 pranešimų, susijusių su aiškinti vaikų seksualinio išnaudojimo sukurtu DI turiniu.
K: Kiek failų NCMEC gavo 2022 metais, susijusių su vaikų išnaudojimo turiniu?
A: NCMEC per 2022 metus gavo apie 88,3 milijono failų, susijusių su vaikų išnaudojimo turiniu.
K: Koks yra NCMEC vaidmuo spręstant šią problemą?
A: NCMEC turi gyvybiškai svarbų vaidmenį kaip nacionalinė bendro organizavimo vieta pranešimams apie vaikų išnaudojimo turinį teisėsaugos institucijoms.
K: Kurios socialinių tinklų ir pranešimų kompanijos buvo apklausiamos klausymuose Senato apie internetinę vaikų saugą?
A: „Meta Platforms”, „X”, „TikTok”, „Snap” ir „Discord” generaliniai direktoriai buvo apklausiami klausymuose Senato apie internetinę vaikų saugą.
K: Ką paryškino Stanfordo interneto stebėjimo observatorijos pranešimas?
A: Stanfordo universiteto interneto stebėsenos observatorijos pranešime paryškinama potencialus piktadarys naudoti generuojančią dirbtinį intelektą sukurti naujus vaizdus, kurie labai artėja prie tikrų vaikų.
Kokius veiksmus ėmėsi OpenAI ir kiti generuojančių dirbtinio intelekto įmonių gauti šiai problemai spręsti?
A: OpenAI įdiegė sistemą, skirtą pranešimus perdaryti NCMEC. Be to, vyksta diskusijos tarp NCMEC ir kitų generuojančių dirbtinio intelekto įmonių siekiant nustatyti panašius veiksmus.
Apibrėžimai:
– DIR (Dirbtinis Intelektas): Technologija, leidžianti įrenginiams atlikti užduotis, kurios paprastai reikėtų žmogaus intelekto.
– Vaikų išnaudojimo turinys: Turinys, pateikiantis vaikų seksualinį išnaudojimą arba prievartą.
– Generuojantis DIR: Dirbtinis intelektas, gebantis generuoti naują informaciją arba turinį, pavyzdžiui, vaizdus arba tekstą.
– NCMEC (Nacionalinis centras dėl dingusių ir išnaudotų vaikų): Nacionalinė organizacija, skirta vaikų pagrobimui, vaikų seksualiniam išnaudojimui ir dingusiems vaikams.
– Socialinių tinklų ir pranešimų kompanijos: Kompanijos, teikiančios internetines platformas ir paslaugas, kurios leidžia naudotojams susisiekti, bendrauti ir dalintis turiniu su kitais.
Pasiūlyti susiję nuorodas:
Nacionalinis centras dėl dingusių ir išnaudotų vaikų
OpenAI
Stanfordo universitetas
The source of the article is from the blog queerfeed.com.br