Az mesterséges intelligencia (AI) technológiájának fejlődése számos előnyt és fejlesztést hozott különböző iparágakban. Az előrehaladás közben azonban a mesterséges intelligencia sötét oldala is felszínre került, ahogy a gyermekbiztonsági szakértők és kutatók arra figyelmeztetnek, hogy fokozza az online kihasználást.
A Nemzeti Gyermekeltűntetési és Kizsákmányolási Központ (NCMEC) szerint tavaly 4 700 jelentés érkezett az AI-generált tartalmakról, amelyek gyermekkori szexuális kizsákmányolást ábrázoltak. Ez az aggasztó szám azt mutatja, hogy egy olyan probléma felmerülése, amely várhatóan növekszik, ahogy az AI technológia tovább fejlődik.
Bár a NCMEC még nem hozta nyilvánosságra az összes forrásból 2023-ban kapott gyermekbántalmazási tartalmak jelentések teljes számát, a szervezet bejelentette, hogy csak 2022-ben körülbelül 88,3 millió fájlt kapott. Ezek a jelentések származnak az AI-generáló vállalatoktól maguktól, az online platformoktól és azoktól az emberektől, akik ilyen ijesztő tartalomra bukkannak.
Felismervén ennek a problémának az azonnali megoldására való sürgős szükségét, a NCMEC kulcsfontosságú szerepet játszik az országos tisztogatóházként a gyermekbántalmazási tartalmak bejelentésében a rendőrségi szervek számára. John Shehan, a NCMEC vezérigazgató-helyettese hangsúlyozta, hogy az AI által elősegített gyermekkihasználás tagadhatatlanul megtörténik.
A közelmúltban a Meta Platforms, az X, a TikTok, a Snap és a Discord vezérigazgatói kérdésekkel szembesültek egy szenátusi meghallgatáson, amely a fiatalok online biztonságára összpontosított. A törvényhozók megvizsgálták ezeket a közösségi média és üzenetküldési vállalatokat az erőfeszítéseikkel kapcsolatban a gyerekek védelmére az online ragadozókkal szemben.
A Stanford Internet Observatory kutatói júniusban jelentést tettek közzé, amely hangsúlyozta, hogy aggodalmas, hogy a bántalmazók használhatják az AI-generálást arra, hogy új képeket hozzanak létre, amelyek közel állnak a valódi gyermekekhez. Ahogy ezek az AI-generált anyagok egyre fotórealisztikusabbá válnak, az igazi áldozatok és az AI-alkotások közötti megkülönböztetés jelentős kihívást jelent.
A növekvő probléma kezelése érdekében az OpenAI, a népszerű ChatGPT mögötti szervezet bevezetett egy rendszert a jelentések továbbítására a NCMEC-nek. Emellett folyamatban vannak a tárgyalások a NCMEC és más AI-generáló vállalatok között hasonló intézkedések bevezetéséről.
Az AI felvonulása mind innovációt, mind felelősséget hoz magával. Ahogy a társadalom továbbra is a mesterséges intelligencia technológiáját elismeri, létfontosságú, hogy figyelmesen álljunk az újonnan felmerülő aggodalmak kezeléséhez, hogy megvédjük a sebezhető egyének, különösen a gyermekek jólétét.
Gyakran Ismételt Kérdések:
K: Mi az AI sötét oldala?
V: Az AI sötét oldala arra utal, hogy a mesterséges intelligencia technológiájának potenciális kockázatai és negatív hatásai vannak, különösen az online kihasználás fokozásában.
K: Hány jelentés érkezett tavaly az AI által generált tartalmakról, amelyek a gyermekkori szexuális kizsákmányolást ábrázolták?
V: A NCMEC szerint tavaly 4 700 jelentés érkezett az AI által generált tartalmakról, amelyek a gyermekkori szexuális kizsákmányolást ábrázolták.
K: Hány fájlt kapott a NCMEC 2022-ben a gyermekbántalmazási tartalmak kapcsán?
V: A NCMEC csak 2022-ben körülbelül 88,3 millió fájlt kapott a gyermekbántalmazási tartalmakkal kapcsolatban.
K: Milyen szerepet játszik a NCMEC ezen a problémának a kezelésében?
V: A NCMEC kulcsfontosságú szerepet játszik az országos tisztogatóház szerepében a gyermekbántalmazási tartalmak bejelentésében a rendőrségi szerveknek.
K: Melyik közösségi média- és üzenetküldő vállalatokkal szembesült kérdésekkel egy szenátusi meghallgatáson az online gyermekbiztonságról?
V: A Meta Platforms, az X, a TikTok, a Snap és a Discord vezérigazgatói kérdésekkel szembesültek egy szenátusi meghallgatáson az online gyermekbiztonságról.
K: Mit jelzett a Stanford Internet Observatory jelentése?
V: A Stanford Internet Observatory jelentése kiemelte, hogy aggasztó, hogy az elkövetők használhatják az AI-generálást arra, hogy új képeket hozzanak létre, amelyek közel állnak a valódi gyermekekhez.
K: Milyen intézkedéseket tett az OpenAI és más AI-generáló vállalatok ennek a problémának a kezelése érdekében?
V: Az OpenAI bevezetett egy rendszert a jelentések továbbításához a NCMEC-nek, és tárgyalások folynak a NCMEC és más AI-generáló vállalatok között hasonló intézkedések bevezetéséről.
Meghatározások:
– AI (mesterséges intelligencia): A technológia, amely lehetővé teszi a gépek számára az olyan feladatok elvégzését, amelyekhez általában emberi intelligencia szükséges.
– Gyermekbántalmazási tartalom: Olyan tartalom, amely a gyermekkori szexuális kizsákmányolást vagy bántalmazást ábrázolja.
– Generatív AI: Az a mesterséges intelligencia, amely képes új adatokat vagy tartalmakat generálni, például képeket vagy szövegeket.
– NCMEC (Nemzeti Gyermekeltűntetési és Kizsákmányolási Központ): Egy nemzeti szervezet, amely a gyermekrablás, a gyermekkori szexuális kizsákmányolás megelőzésére, valamint az eltűnt gyermekek megtalálására koncentrál.
– Közösségi média- és üzenetküldő vállalatok: Olyan vállalatok, amelyek online platformokat és szolgáltatásokat kínálnak a felhasználók számára a kapcsolódáshoz, kommunikációhoz és tartalmak megosztásához másokkal.
Javasolt kapcsolódó linkek:
Nemzeti Gyermekeltűntetési és Kizsákmányolási Központ
OpenAI
Stanford Egyetem
The source of the article is from the blog crasel.tk