Znepokojujúce praktiky umelej inteligencie ohrozujú deti
Organizácia Human Rights Watch oznámila znepokojujúce zistenia týkajúce sa zneužívania osobných obrázkov prostredníctvom nástrojov umelej inteligencie (AI). Správa detailne popisuje, že fotografia brazílskych detí zachytávajúca intímne životné okamihy, ako napríklad narodenie detí, oslavy narodenín a školské udalosti, boli získané bez povolenia na účely vývoja AI.
Tieto súkromné okamihy boli objavené v databáze LAIon-5B, rozsiahlej zbierke používanej na tréning AI pozostávajúcej z viac ako 5 miliárd obrázkov. Počet obrázkov detí predstavuje malý percentuálny podiel celkovej databázy; avšak objavenie vyvolalo dôležité poplachy o súkromí a súhlase.
Riziká deepfake pre neplnoletých
Výskumníčka detí a technológií v organizácii Human Rights Watch, Hye Jung Han, vysvetlila, že technológia AI umožňuje vytváranie realistických obrazov a scén, ktoré možno vykonať behom sekúnd, slobodne a s ľahkosťou. Táto technológia neúmyselne umožnila výrobu škodlivých a nekonzultovaných deepfake – upravené videá a obrázky šírené po webe.
Porušenia súkromia a snahy o nápravu
Zozbierané obrázky brazílskych detí, hoci nie sú dostupné prostredníctvom online vyhľadávania a mohli byť zverejnené pred rokmi alebo dokonca desaťročiami, boli prístupné nástrojom AI, čo poukázalo na potenciálne chyby hlavných spoločností a sociálnych médií pri zabezpečení súkromia používateľov.
Nemecký inštitút zodpovedný za LAION-5B potvrdil prítomnosť týchto osobných fotografií vo svojej databáze a sľúbil ich elimináciu, vyjadrujúc pochybnosť o možnosti, že modely AI presne duplikujú osobné údaje. Napriek tomu LAION navrhol, že rodičia a deti by mali podniknúť kroky na odstránenie svojich obrázkov z internetu a označil samostatné kroky za najefektívnejšiu obranu proti zneužívaniu.
Podporovanie legislatívy v oblasti digitálnych práv
Maria Mello, Koordinátorka programu pre deti a spotrebu v Inštitúte Alana, podporuje uplatnenie existujúcich zákonov v digitálnom priestore na ochranu používateľov, zdôrazňujúc nutnosť stanoviť povinnosti starostlivosti voči deťom a adolescentom, keďže patria medzi najzraniteľnejších online používateľov.
Zneužívanie osobných fotografií brazílskych neplnoletých poukazuje na niekoľko kľúčových otázok, výziev a kontroverzií týkajúcich sa súkromia v dobe AI:
Dôležité otázky:
1. Aké opatrenia sú prijaté na zabezpečenie, aby nástroje AI nespracúvali osobné údaje?
2. Ako sa môžu rodičia a deti chrániť pred takýmto zneužívaním?
3. Aké sú dôsledky využívania obrázkov detí bez súhlasu v AI?
Odpovede:
1. Aplikácie AI sú zvyčajne regulované zákonmi o ochrane údajov a súkromí, ktoré sa líšia podľa krajiny. Medzi ne patria napríklad smernice GDPR v Európe. Napriek tomu môže byť ťažké ich presadzovanie a vývojári AI môžu získať údaje z zdrojov, ktoré nemuseli mať správne zabezpečený súhlas jednotlivcov.
2. Rodičia a deti sú vyzývaní, aby boli opatrní s tým, čo zdieľajú online, využívali nastavenia súkromia a požiadali o odstránenie obrázkov z internetových platforiem, ktoré mohli byť zdieľané bez súhlasu.
3. Používanie osobných fotografií detí bez súhlasu pre AI môže viesť k porušeniu súkromia, krádeži identít a psychickému poškodeniu, najmä ak sú tieto obrázky použité na vytvorenie deepfake.
Kľúčové výzvy a kontroverzie:
– Súhlas a súkromie: Nedostatok informovaného súhlasu od neplnoletých alebo ich opatrovníkov pred použitím ich obrázkov v AI datasetoch je základným porušením práv na súkromie.
– Regulácia: Prebieha diskusia o tom, ako by mali byť regulované AI a získavanie údajov, najmä v súvislosti s právami a ochranou detí.
– Presadzovanie: Aj keď sú príslušné zákony v platnosti, presadzovanie zákonov o súkromí na globálnom základe je komplexné, keďže AI datasety môžu byť zostavované z mnohých medzinárodných zdrojov.
Výhody nástrojov AI:
– AI môže zlepšiť vzdelávacie nástroje, čím vzdelávanie pre deti stane interaktívnejšie a personalizovanejšie.
– Aplikácie poháňané AI môžu poskytovať výhody a bezpečnostné prvky, ako je monitorovanie zdravia a pohody.
Nevýhody nástrojov AI:
– Potenciálne invazívne porušenie súkromia, keď sú osobné fotky zneužité.
– Špecifické výzvy pri správe súhlasu, obzvlášť ak dáta pochádzajú z neplnoletých.
– Možnosť využitia AI pri tvorbe deepfake, ktoré môžu zneužiť a uškodiť jednotlivcom.
Nakoniec, snahy o ochranu práv a legislatívy, ako tie, ktoré podporuje Inštitút Alana, zdôrazňujú dôležitosť prispôsobenia digitálnych práv a ochrany s ohľadom na zraniteľnosť detí. Aplikácia existujúcich zákonov v digitálnom kontexte je kľúčová pre zabezpečenie bezpečnosti a súkromia neplnoletých na internete.
Pre súvisiace informácie by sa mohli hodiť nasledovné odkazy:
– Human Rights Watch
– Inštitút Alana
– Európska komisia (informácie o GDPR)
Prosím, pamätajte na to, že pred vstupom na odkazy by ste mali vždy overiť ich URL adresy a obsah.