Bekymrende AI-praksisser udsætter børn
Human Rights Watch har offentliggjort en bekymrende opdagelse vedrørende misbrugen af personlige billeder af kunstig intelligens (AI)-værktøjer. Rapporten detaljerer, at fotografier af brasilianske børn, der fanger intime livsøjeblikke såsom babyfødsler, fødselsdagsfejringer og skolebegivenheder, er blevet anvendt uden autorisation til udvikling af AI-formål.
Disse private øjeblikke er blevet opdaget i databasen for LAIon-5B, en omfattende samling brugt til AI-træning, der består af over 5 milliarder billeder. Antallet af børns fotos fundet repræsenterer en mindre procentdel af den samlede database; ikke desto mindre har opdagelsen rejst vigtige alarmer omkring privatliv og samtykke.
Risici ved Deepfakes for mindreårige
Hye Jung Han, børns- og teknologiforsker hos Human Rights Watch, forklarede, at AI-teknologi muliggør produktionen af realistiske billeder og scener, hvilket kan gøres på sekunder, frit og let. Denne teknologi har uforvarende muliggjort skabelsen af skadelige og ikke-samtykkede deepfakes – ændrede videoer og billeder distribueret på nettet.
Privatlivssvigt og håndhævelsesbestræbelser
De indsamlede fotos af de brasilianske børn, selvom de ikke er tilgængelige gennem online søgninger og muligvis er blevet lagt på internettet for år siden eller endda årtier siden, blev tilgået af AI-værktøjer og kastede lys over potentielle forsømmelser af store virksomheder og sociale medieplatforme i beskyttelsen af brugernes privatliv.
Den tyske institution bag LAION-5B har bekræftet tilstedeværelsen af disse personlige fotos i deres dataset og har lovet at fjerne dem, idet de udfordrer muligheden for, at AI-modeller kan replikere persondata præcist. Ikke desto mindre foreslog LAION, at forældre og børn bør tage initiativ til at fjerne deres billeder fra internettet og anså egen handling som den mest effektive forsvar mod misbrug.
Advokati for lovgivning om digitale rettigheder
Maria Mello, programkoordinator for barn og forbrug hos Alana-instituttet, advokerer for anvendelsen af eksisterende love inden for den digitale sfære for at beskytte brugere, idet det understreges, at det er nødvendigt at etablere omsorgspligter for børn og unge, da de er blandt de mest sårbare online.
Misbruget af personlige fotos af brasilianske mindreårige fremhæver flere centrale spørgsmål, udfordringer og kontroverser omkring privatliv i AI-alderen:
Vigtige spørgsmål:
1. Hvilke foranstaltninger er på plads for at sikre, at AI-værktøjer ikke misbruger persondata?
2. Hvordan kan forældre og børn beskytte sig mod sådanne udnyttelser?
3. Hvad er konsekvenserne ved at bruge børns billeder uden samtykke i AI?
Svar:
1. AI-applikationer er generelt styret af databeskyttelses- og privatlivslove, der varierer fra land til land. Disse omfatter regler som GDPR i Europa. Dog kan håndhævelse være udfordrende, og AI-udviklere kan muligvis få data fra kilder, der ikke har sikret samtykke fra de portrætterede individer.
2. Forældre og børn opfordres til at være forsigtige med, hvad de deler online, anvende privatlivsindstillinger og anmode om fjernelse af billeder fra internetplatforme, der muligvis er blevet delt uden samtykke.
3. Brugen af børns personlige billeder uden samtykke til AI kan føre til krænkelse af privatlivet, identitetstyveri og psykisk skade, især hvis disse billeder bruges til at skabe deepfakes.
Centrale udfordringer og kontroverser:
– Samtykke og privatliv: Manglen på informeret samtykke fra mindreårige eller deres værger, før deres billeder bruges i AI-datasæt, er en fundamental krænkelse af privatlivets rettigheder.
– Regulering: Der er en løbende debat om, hvordan AI og dataindsamling skal reguleres, især med hensyn til børns rettigheder og beskyttelse.
– Håndhævelse: Selv med love på plads, er håndhævelse af privatlivslove på globalt plan komplekst, da AI-datasæt kan sammensættes fra talrige internationale kilder.
Fordele ved AI-værktøjer:
– AI kan forbedre uddannelsesmæssige værktøjer, hvilket gør læring mere interaktiv og personlig for børn.
– AI-drevne applikationer kan give bekvemmeligheder og sikkerhedsfunktioner, såsom overvågning af helbred og trivsel.
Ulemper ved AI-værktøjer:
– Potentielt invasive privatlivsbrud, når personlige fotos misbruges.
– Udfordringer med at håndtere samtykke, især når data kommer fra mindreårige.
– Potentiale for, at AI bruges til at skabe deepfakes, der kan udnytte og skade individer.
Endeligt understreger advocacy- og lovgivningsbestræbelser som dem, der støttes af Alana-instituttet, vigtigheden af at tilpasse digitale rettigheder og beskyttelser til at tage hensyn til sårbarheden hos børnebrugere. Anvendelse af eksisterende love i en digital sammenhæng er afgørende for at sikre sikkerheden og privatlivet for børn online.
For relateret information kan følgende links være nyttige:
– Human Rights Watch
– Alana Institute
– Europakommissionen (for GDPR-information)
Bemærk, at du altid bør verificere URL’er og deres indhold, før du besøger dem.