Avansul tehnologiei de inteligență artificială (AI) a adus numeroase beneficii și progrese în diferite industrii. Cu toate acestea, în mijlocul acestui progres, partea întunecată a AI a apărut, deoarece experții în siguranța copiilor și cercetătorii avertizează cu privire la riscurile potențiale pe care le prezintă în exacerbarea exploatării online.
Potrivit Centrului Național din Statele Unite pentru Copii Dispăruți și Exploatați (NCMEC), anul trecut au fost înregistrate 4.700 de rapoarte privind conținutul generat de AI care prezenta exploatarea sexuală a copiilor. Această cifră alarmantă indică apariția unei probleme care se așteaptă să crească pe măsură ce tehnologia AI continuă să evolueze.
În timp ce NCMEC nu a dezvăluit încă numărul total de rapoarte privind conținutul abuzului de copii pe care le-a primit de la toate sursele în 2023, organizația a dezvăluit că a primit aproximativ 88,3 milioane de fișiere doar în 2022. Aceste rapoarte provin de la companiile de AI generative în sine, de la platformele online și de la persoanele care dau peste asemenea conținut tulburător.
Recunoscând nevoia urgentă de a aborda această problemă, NCMEC joacă un rol crucial ca un centru național pentru raportarea conținutului abuzului de copii către agențiile de aplicare a legii. John Shehan, vicepreședintele senior al NCMEC, a subliniat faptul că exploatarea copiilor facilitată de AI se întâmplă fără îndoială.
Recent, directorii executivi ai Meta Platforms, X, TikTok, Snap și Discord au fost interogați într-o audiere a Senatului concentrată pe siguranța online a copiilor. Legiuitorii au investigat aceste companii de social media și mesagerie cu privire la eforturile lor de a proteja copiii de prădătorii online.
Cercetătorii de la Observatorul Internet al Universității Stanford au emis un raport în iunie, evidențiind potențialul îngrijorător ca abuzatorii să folosească AI generative pentru a crea imagini noi care să semene strâns cu copii reali. Pe măsură ce aceste materiale generate de AI devin din ce în ce mai fotorealiste, distingerea între victime reale și creațiile AI reprezintă o provocare semnificativă.
Pentru a combate această problemă în creștere, OpenAI, organizația din spatele popularului ChatGPT, a instituit un sistem pentru a raporta NCMEC. În plus, se poartă discuții între NCMEC și alte companii de AI generative pentru a stabili măsuri similare.
Creșterea AI aduce atât inovație, cât și responsabilități. Pe măsură ce societatea continuă să adopte tehnologia AI, este crucial să rămânem vigilenți în abordarea preocupărilor emergente pentru a proteja binele persoanelor vulnerabile, în special copii.
Întrebări frecvente:
Î: Care este partea întunecată a AI?
R: Partea întunecată a AI se referă la riscurile potențiale și implicațiile negative ale tehnologiei de inteligență artificială, în special în exacerbarea exploatării online.
Î: Câte rapoarte au existat anul trecut cu privire la conținutul generat de AI care prezenta exploatarea sexuală a copiilor?
R: Potrivit NCMEC, anul trecut au fost înregistrate 4.700 de rapoarte privind conținutul generat de AI care prezenta exploatarea sexuală a copiilor.
Î: Câte fișiere a primit NCMEC în 2022 legate de conținutul abuzului de copii?
R: NCMEC a primit aproximativ 88,3 milioane de fișiere doar în 2022 legate de conținutul abuzului de copii.
Î: Care este rolul NCMEC în abordarea acestei probleme?
R: NCMEC are un rol crucial ca centru național pentru raportarea conținutului abuzului de copii către agențiile de aplicare a legii.
Î: Ce companii de social media și mesagerie au fost interogate într-o audiere a Senatului cu privire la siguranța online a copiilor?
R: Directorii executivi ai Meta Platforms, X, TikTok, Snap și Discord au fost interogați într-o audiere a Senatului cu privire la siguranța online a copiilor.
Î: Ce a evidențiat raportul Observatorului Internet al Universității Stanford?
R: Raportul Observatorului Internet al Universității Stanford a evidențiat potențialul îngrijorător ca abuzatorii să utilizeze AI generative pentru a crea imagini noi care să semene strâns cu copii reali.
Î: Ce măsuri au luat OpenAI și alte companii de AI generative pentru a combate această problemă?
R: OpenAI a instituit un sistem pentru a raporta NCMEC, iar în prezent se poartă discuții între NCMEC și alte companii de AI generative pentru a stabili măsuri similare.
Definiții:
– AI (Inteligența Artificială): Tehnologie care permite mașinilor să îndeplinească sarcini care ar necesita în mod obișnuit inteligență umană.
– Conținutul abuzului de copii: Conținut care prezintă exploatarea sau abuzul sexual al copiilor.
– AI generative: Inteligența artificială capabilă de a genera date sau conținut nou, cum ar fi imagini sau text.
– NCMEC (Centrul Național pentru Copii Dispăruți și Exploatați): O organizație națională care se concentrează pe prevenirea răpirii copiilor, exploatarea sexuală a copiilor și găsirea copiilor dispăruți.
– Companii de social media și mesagerie: Companii care furnizează platforme online și servicii pentru utilizatori pentru a se conecta, comunica și partaja conținut cu alți utilizatori.
Link-uri relevante sugerate:
Centrul Național pentru Copii Dispăruți și Exploatați
OpenAI
Universitatea Stanford
The source of the article is from the blog macholevante.com