Meta Platforms, moderselskabet bag Facebook og Instagram, har offentliggjort planer om at opdage og mærke billeder genereret af kunstig intelligens (AI) fra andre virksomheder. Virksomheden har til hensigt at bruge usynlige markører indlejret i billedfilerne til at skelne mellem rigtige fotografier og digitalt skabt indhold. Dette mærkningssystem vil blive anvendt på alt indhold, der bærer markørerne og deles på Meta’s platforme.
Indførelsen af dette mærkningssystem er et forsøg på at imødegå det udbredte problem med misvisende og falsk indhold produceret af generative AI-teknologier. Disse teknologier har evnen til at skabe realistisk udseende billeder som reaktion på enkle opfordringer, hvilket rejser bekymringer om de potentielle skader forbundet med misbrug af dem. Metas mærkningsinitiativ er en del af en større bevægelse inden for tech-industrien for at etablere standarder og mindske de negative virkninger af generative AI.
Meta’s præsident for globale anliggender, Nick Clegg, udtrykte tillid til virksomhedens evne til pålideligt at mærke AI-genererede billeder. Han erkendte dog kompleksiteten ved at udvikle lignende værktøjer til lyd- og videomateriale. Mens teknologien til mærkning af lyd og video endnu ikke er fuldt udviklet, har Meta planer om at kræve, at personer mærker deres ændrede lyd- og videomateriale, med straf for manglende overholdelse.
Det er værd at bemærke, at Metas mærkningsinitiativ i øjeblikket ikke omfatter skriftligt indhold genereret af AI-værktøjer som ChatGPT. Clegg udtalte, at der i øjeblikket ikke findes en levedygtig mekanisme til mærkning af sådant indhold. Derudover er det uklart, om Meta vil anvende mærker på generative AI-indhold, der deles på deres krypterede beskedtjeneste, WhatsApp.
Den nylige kritik af Metas politik vedrørende vildledende manipulerede videoer fra deres uafhængige tilsynsbestyrelse fik Clegg til at erkende behovet for forbedrede foranstaltninger. Bestyrelsen anbefalede mærkning i stedet for fjernelse af sådant indhold. Clegg var enig med bestyrelsens vurdering og erklærede, at Metas eksisterende politik ikke længere er passende i betragtning af den stigende tilstedeværelse af syntetisk og hybridt indhold. Ved at etablere et mærkningssamarbejde med andre teknologivirksomheder, sigter Meta mod at demonstrere deres engagement i at imødegå disse bekymringer.
I konklusionen markerer Meta Platforms’ beslutning om at mærke AI-genererede billeder et vigtigt skridt mod at bekæmpe misinformation og øge gennemsigtigheden på deres platforme. Mens tech-industrien fortsætter med at håndtere udfordringerne ved generative AI-teknologier, bliver samarbejdsindsatser som dette mærkningsinitiativ afgørende for at forme ansvarlig AI-anvendelse.
The source of the article is from the blog mendozaextremo.com.ar