Rozvoj technológie umelej inteligencie (UI) priniesol množstvo výhod a pokrokov v rôznych priemyselných odvetviach. Avšak v rámci tohto pokroku sa objavila temná stránka UI, keď odborníci pre bezpečnosť detí a výskumníci varujú pred potenciálnymi rizikami, ktorým čelí online zneužívanie detí.
Podľa amerického Národného centra pre zmiznuté a zneužívané deti (NCMEC) bola minulý rok zaznamenaná 4 700 hlásení týkajúcich sa obsahu generovaného UI, ktorý zobrazoval sexuálne zneužívanie detí. Tieto alarmujúce čísla naznačujú vznikajúci problém, ktorý sa očakáva, že sa bude zväčšovať s pokračujúcim vývojom technológie UI.
Zatiaľ čo NCMEC zatiaľ nesprístupnil celkový počet hlásení o obsahu zneužívania detí, ktoré dostal zo všetkých zdrojov v roku 2023, organizácia však oznámila, že v roku 2022 dostala približne 88,3 milióna súborov. Tieto hlásenia pochádzajú samotných spoločností generatívnej UI, online platforiem a jednotlivcov, ktorí narazia na takýto rušivý obsah.
Uznávajúc urgentnú potrebu riešiť túto otázku, NCMEC zohráva kľúčovú úlohu ako národné čisté centrum pre hlásenie obsahu zneužívania detí zákonným orgánom. John Shehan, výkonný viceprezident NCMEC, zdôraznil, že sexuálne zneužívanie detí umožnené prostredníctvom UI sa nezaprie.
Nedávno sa CEO spoločností Meta Platforms, X, TikTok, Snap a Discord stretli pred výborom Senátu so zameraním na bezpečnosť detí online. Zákonodarcovia vypočúvali tieto spoločnosti sociálnych médií a správ o ich úsiliach na ochranu detí pred online predátormi.
V júni vydali výskumníci zo Stanford Internet Observatory správu, v ktorej upozornili na znepokojujúci potenciál zneužívateľov používať generatívne UI na vytváranie nových obrázkov, ktoré veľmi podobajú skutočným deťom. Keďže tieto materiály generované UI sa stávajú čoraz viac fotorealistickými, rozlíšenie medzi skutočnými obetami a vytvorenými vytvormi UI predstavuje významné výzvy.
Na boj proti tomuto rastúcemu problému organizácia OpenAI, ktorá stojí za populárnym ChatGPT, zaviedla systém prenosu hlásení na NCMEC. Okrem toho prebiehajú rozhovory medzi NCMEC a ďalšími spoločnosťami generatívnej UI s cieľom zaviesť podobné opatrenia.
Nástup UI prináša s sebou inovácie aj zodpovednosti. Ako spoločnosť pokračuje v prijímaní technológie UI, je nevyhnutné zostať ostražitým pri riešení nových obáv a chrániť zraniteľné osoby, najmä deti.
Časté otázky:
Otázka: Čo je temná stránka UI?
Odpoveď: Temná stránka UI sa týka potenciálnych rizík a negatívnych dôsledkov technológie umelej inteligencie, najmä pokiaľ ide o zhoršovanie online zneužívania.
Otázka: Koľko hlásení sa minulý rok týkalo obsahu generovaného UI, ktorý zobrazoval sexuálne zneužívanie detí?
Odpoveď: Podľa NCMEC bolo minulý rok zaznamenaných 4 700 hlásení týkajúcich sa obsahu generovaného UI, ktorý zobrazoval sexuálne zneužívanie detí.
Otázka: Koľko súborov NCMEC dostalo v roku 2022 týkajúcich sa obsahu zneužívania detí?
Odpoveď: NCMEC dostala len v roku 2022 približne 88,3 milióna súborov týkajúcich sa obsahu zneužívania detí.
Otázka: Akú úlohu zohráva NCMEC pri riešení tohto problému?
Odpoveď: NCMEC je kľúčovým centrom pre národné hlásenie obsahu zneužívania detí zákonným orgánom.
Otázka: Ktoré spoločnosti sociálnych médií a správ boli vypočúvané výborom Senátu o bezpečnosti detí online?
Odpoveď: CEO spoločností Meta Platforms, X, TikTok, Snap a Discord boli vypočúvaní výborom Senátu o bezpečnosti detí online.
Otázka: Čo zdôrazňovala správa zo Stanford Internet Observatory?
Odpoveď: Správa zo Stanford Internet Observatory zdôraznila znepokojujúci potenciál zneužívateľov využívať generatívne UI na vytváranie nových obrázkov, ktoré veľmi podobajú skutočným deťom.
Otázka: Aké opatrenia prijala OpenAI a ďalšie spoločnosti generatívnej UI na boj proti tomuto problému?
Odpoveď: OpenAI zaviedla systém na prenos hlásení na NCMEC a prebiehajú rozhovory medzi NCMEC a ďalšími spoločnosťami generatívnej UI s cieľom zaviesť podobné opatrenia.
Definície:
– UI (Umelá inteligencia): Technológia, ktorá umožňuje strojom vykonávať úlohy, ktoré by inak vyžadovali ľudskú inteligenciu.
– Obsah zneužívania detí: Obsah, ktorý zobrazuje sexuálne zneužívanie alebo zneužívanie detí.
– Generatívna UI: Umelej inteligencii schopná generovať nové údaje alebo obsah, ako sú obrázky alebo text.
– NCMEC (Národné centrum pre zmiznuté a zneužívané deti): Národná organizácia zameraná na prevenciu únosov detí, sexuálneho zneužívania detí a hľadanie zmiznutých detí.
– Spoločnosti sociálnych médií a správ: Spoločnosti, ktoré poskytujú online platformy a služby pre používateľov na pripojenie, komunikáciu a zdieľanie obsahu s ostatnými.
Navrhované relevantné odkazy:
Národné centrum pre zmiznuté a zneužívané deti
OpenAI
Stanfordská univerzita
The source of the article is from the blog be3.sk