Pokrok technologie umělé inteligence (AI) přinesl mnoho výhod a pokroků v různých odvětvích. Avšak uprostřed tohoto pokroku se objevil temný stín AI, kdy odborníci na bezpečnost dětí a výzkumníci varují před možnými riziky, které představuje při zhoršování online zneužívání.
Podle amerického Národního centra pro ztracené a zneužívané děti (NCMEC) bylo loni podáno 4 700 hlášení týkajících se obsahu generovaného umělou inteligencí, který zobrazoval sexuální zneužívání dětí. Tento znepokojující počet naznačuje vznik problému, který se očekává, že poroste s neustále se vyvíjející AI technologií.
Zatímco NCMEC zatím nezveřejnilo celkový počet hlášení o obsahu zneužívání dětí, která obdrželo od všech zdrojů v roce 2023, organizace sdělila, že v roce 2022 obdržela přibližně 88,3 milionu souborů. Tato hlášení pocházejí samotných firem zabývajících se generativní AI, online platforem a jednotlivců, kteří narazí na takový znepokojující obsah.
Vzhledem k naléhavé potřebě řešit tuto otázku hraje NCMEC klíčovou roli jako národní centrála pro hlášení obsahu zneužívání dětí orgánům činným v trestním řízení. John Shehan, výkonný viceprezident NCMEC, zdůraznil, že zneužívání dětí umožněné pomocí AI se nedá popřít.
Nedávno se šéfové společností Meta Platforms, X, TikTok, Snap a Discord dostali na výslech v Senátu zaměřený na bezpečnost dětí online. Zákonodárci vyslýchali tyto sociální sítě a zasílací společnosti o jejich úsilí ochránit děti před online predátory.
Výzkumníci z Stanford Internet Observatory v červnu vydali zprávu, která upozorňuje na znepokojivý potenciál, že zneuživatelé mohou použít generativní AI k vytváření nových obrázků, které připomínají skutečné děti. Jak tyto materiály generované AI stále více připomínají skutečné fotografie, rozlišování mezi skutečnými oběťmi a tvorbami AI představuje velkou výzvu.
K boji proti rostoucímu problému OpenAI, organizace za populárním ChatGPT, zavedlo systém pro předávání hlášení NCMEC. Navíc probíhají diskuse mezi NCMEC a dalšími společnostmi zabývajícími se generativní AI o zavedení podobných opatření.
Vzestup AI přináší jak inovace, tak odpovědnost. Jak společnost stále více přijímá technologii umělé inteligence, je důležité zůstat ostražitými ve vztahu ke vznikajícím obavám, abychom chránili pohodu ohrožených jednotlivců, zejména dětí.
Časté dotazy:
Otázka: Co je temná stránka AI?
Odpověď: Temná stránka AI se týká možných rizik a negativních dopadů technologie umělé inteligence, zejména v zhoršování online zneužívání.
Otázka: Kolik hlášení bylo loni týkajících se obsahu generovaného umělou inteligencí, který zobrazoval sexuální zneužívání dětí?
Odpověď: Podle NCMEC bylo loni podáno 4 700 hlášení týkajících se obsahu generovaného umělou inteligencí, který zobrazoval sexuální zneužívání dětí.
Otázka: Kolik souborů souvisejících s obsahem zneužívání dětí NCMEC obdržela v roce 2022?
Odpověď: NCMEC obdržela přibližně 88,3 milionu souborů v roce 2022 souvisejících s obsahem zneužívání dětí.
Otázka: Jakou roli hraje NCMEC při řešení tohoto problému?
Odpověď: NCMEC sehrává klíčovou roli jako národní centrála pro hlášení obsahu zneužívání dětí orgánům činným v trestním řízení.
Otázka: Které sociální sítě a zasílací společnosti byly vyslýchány v Senátu ohledně bezpečnosti dětí online?
Odpověď: Šéfové společností Meta Platforms, X, TikTok, Snap a Discord byli vyslýcháni v Senátu ohledně bezpečnosti dětí online.
Otázka: Co zdůraznila zpráva Stanford Internet Observatory?
Odpověď: Zpráva Stanford Internet Observatory upozornila na znepokojivý potenciál, že zneuživatelé mohou použít generativní AI k vytváření nových obrázků, které připomínají skutečné děti.
Otázka: Jaká opatření přijala OpenAI a další společnosti zabývající se generativní AI k boji proti tomuto problému?
Odpověď: OpenAI zavedlo systém pro předávání hlášení NCMEC a probíhají diskuse mezi NCMEC a dalšími společnostmi zabývajícími se generativní AI o zavedení podobných opatření.
Definice:
– AI (Umělá inteligence): Technologie, která umožňuje strojům provádět úkoly, které by obvykle vyžadovaly lidskou inteligenci.
– Obsah zneužívání dětí: Obsah, který zobrazuje sexuální zneužívání nebo týrání dětí.
– Generativní AI: Umělá inteligence, která je schopná generovat nová data nebo obsah, jako jsou obrázky nebo text.
– NCMEC (Národní centrum pro ztracené a zneužívané děti): Národní organizace, která se zaměřuje na prevenci únosů dětí, sexuálního zneužívání dětí a hledání ztracených dětí.
– Sociální sítě a zasílací společnosti: Společnosti, které poskytují online platformy a služby pro uživatele k propojení, komunikaci a sdílení obsahu s ostatními.
Navrhované související odkazy:
Národní centrum pro ztracené a zneužívané děti
OpenAI
Stanford University
The source of the article is from the blog tvbzorg.com