Meta, moderselskabet bag Facebook, Instagram og Threads, tager skridt til at identificere og mærke AI-genererede billeder på deres platforme. Dette skridt er en del af Metas bestræbelser på at bekæmpe bedrag og placere ansvar hos dem, der bevidst fører andre på vildspor.
I øjeblikket bliver Meta’s AI-genererede fotorealistiske billeder allerede mærket som sådan. Dog annoncerede Nick Clegg, Metas præsident for globale anliggender, i en nylig blogpost, at virksomheden har planer om at udvide mærkningen til AI-genererede billeder, der er skabt på rivaliserende tjenester.
Selvom Meta’s AI-billeder allerede indeholder metadata og usynlige vandmærker, der angiver deres AI-oprindelse, er virksomheden ved at udvikle værktøjer til at opdage disse markører, når de bruges af andre organisationer som Google, OpenAI, Microsoft, Adobe, Midjourney og Shutterstock. Ved at identificere og mærke AI-genereret indhold sigter Meta mod at adressere den udviskede grænse mellem menneskelig og syntetisk indhold og give brugerne gennemsigtighed omkring teknologien bag de billeder, de støder på.
I de kommende måneder planlægger Meta at anvende disse mærker på alle sprog. Virksomheden anerkender vigtigheden af denne indsats, især under de kommende globale valg. Det er dog vigtigt at bemærke, at mærkningen i øjeblikket kun gælder billeder, og AI-genereret lyd- og videoindhold inkluderer ikke disse markører.
Ud over mærkning har Meta til hensigt at placere mere fremtrædende mærker på digitalt manipulerede eller ændrede billeder, videoer eller lyd, der har en høj risiko for at vildlede offentligheden på en materiel måde. Desuden undersøger virksomheden udviklingen af teknologi, der automatisk kan identificere AI-genereret indhold, selv når disse usynlige markører er fjernet eller mangler.
Clegg erkendte den modsætningsfyldte karakter af dette område og behovet for løbende innovation for at være et skridt foran dem, der forsøger at bedrage med AI-genereret indhold. Da AI deepfakes allerede har gjort deres optræden under det amerikanske præsidentvalg, og tilfælde som den kontroversielle billedeændring i Australien er sket, er Metas bestræbelser på at opdage og mærke AI-genereret indhold afgørende for at imødegå bedrageriske praksisser.
Ved at fremme gennemsigtighed og give brugerne information om indholdets karakter, som de støder på, sigter Meta mod at skabe et sikrere digitalt miljø, hvor individer kan navigere og engagere sig med medier ansvarligt.
The source of the article is from the blog mivalle.net.ar