Meta, morselskapet til Facebook, Instagram og Threads, tar skritt for å identifisere og merke AI-genererte bilder på sine plattformer. Dette tiltaket er en del av Metas innsats for å bekjempe bedrag og holde de som med vilje villeder andre ansvarlige.
For øyeblikket er Metas AI-genererte fotorealistiske bilder allerede merket som slike. Imidlertid kunngjorde Nick Clegg, President for Global Affairs i Meta, i en nylig bloggpost at selskapet planlegger å utvide merkingen til AI-genererte bilder som er opprettet på konkurrerende tjenester.
Mens Metas AI-bilder allerede inneholder metadata og usynlige vannmerker som indikerer deres opprinnelse, utvikler selskapet verktøy for å oppdage disse merkene når de brukes av andre organisasjoner som Google, OpenAI, Microsoft, Adobe, Midjourney og Shutterstock. Ved å identifisere og merke AI-generert innhold ønsker Meta å ta tak i den stadig mer uklare grensen mellom menneskelig og syntetisk innhold, og gi brukerne gjennomsiktighet om teknologien bak bildene de møter.
I løpet av de kommende månedene planlegger Meta å bruke disse merkene på alle språk. Selskapet erkjenner viktigheten av denne innsatsen, spesielt i løpet av betydningsfulle globale valg som skal finne sted det kommende året. Det er imidlertid viktig å merke seg at merkingen for øyeblikket begrenser seg til bilder, og AI-generert lyd- og videomateriale inkluderer ikke disse merkene.
I tillegg til merkingen vil Meta også plassere mer fremtredende merker på digitalt manipulerte eller endrede bilder, videoer eller lyd som har en høy risiko for å villedende på en vesentlig måte. Videre utforsker selskapet utviklingen av teknologi som kan oppdage AI-generert innhold automatisk, selv når disse usynlige merkene er fjernet eller ikke er tilstede.
Clegg erkjente at dette feltet er preget av en motstridende natur, og at det er behov for kontinuerlig innovasjon for å ligge foran de som ønsker å bedra med AI-generert innhold. AI deepfakes har allerede gjort seg gjeldende under det amerikanske presidentvalget, og hendelser som den kontroversielle bildeendringen i Australia har funnet sted. Metas innsats for å oppdage og merke AI-generert innhold er derfor avgjørende for å motvirke bedrag.
Ved å fremme gjennomsiktighet og gi brukerne informasjon om innholdets natur de møter, ønsker Meta å skape et tryggere digitalt miljø der enkeltindivider kan navigere og engasjere seg med medier på en ansvarlig måte.
Ofte stilte spørsmål:
Spørsmål: Hva gjør Meta for å bekjempe bedrag på sine plattformer?
Svar: Meta, morselskapet til Facebook, Instagram og Threads, identifiserer og merker AI-genererte bilder på sine plattformer. Dette gjøres for å håndtere problemet med villedende innhold og holde de ansvarlige som med vilje villeder andre.
Spørsmål: Er Meta sine AI-genererte bilder allerede merket som slike?
Svar: Ja, Metas AI-genererte fotorealistiske bilder er allerede merket for å indikere deres opprinnelse.
Spørsmål: Vil Meta utvide merkingen av AI-genererte bilder til konkurrerende tjenester?
Svar: Ja, ifølge Nick Clegg, President for Global Affairs i Meta, planlegger selskapet å utvide merkingen til AI-genererte bilder som er opprettet på konkurrerende tjenester som Google, OpenAI, Microsoft, Adobe, Midjourney og Shutterstock.
Spørsmål: Hvilke merker brukes for å indikere AI-opprinnelse i Metas AI-bilder?
Svar: Metas AI-bilder inneholder metadata og usynlige vannmerker som indikerer deres AI-opprinnelse.
Spørsmål: Utvikler Meta verktøy for å oppdage AI-merker brukt av andre organisasjoner?
Svar: Ja, Meta utvikler verktøy for å oppdage merkene som indikerer AI-opprinnelsen når de brukes av andre organisasjoner.
Spørsmål: Hvorfor identifiserer og merker Meta AI-generert innhold?
Svar: Meta ønsker å takle den stadig mer uklare grensen mellom menneskelig og syntetisk innhold ved å gi gjennomsiktighet om teknologien bak bildene brukerne møter.
Spørsmål: Vil Meta bruke disse merkene på alle språk?
Svar: Ja, Meta planlegger å bruke merkene på alle språk i løpet av de kommende månedene.
Spørsmål: Inkluderer merkene AI-generert lyd- og videomateriale?
Svar: Nei, for øyeblikket begrenser merkingen seg til bilder, og AI-generert lyd- og videomateriale inkluderer ikke disse merkene.
Spørsmål: Hva gjør Meta i tillegg til merkingen?
Svar: Meta har til hensikt å plassere mer fremtredende merker på digitalt manipulerte eller endrede bilder, videoer eller lyd som har en høy risiko for å villedende på en vesentlig måte. Selskapet utforsker også utviklingen av teknologi som kan oppdage AI-generert innhold selv når merkene er fjernet eller ikke er tilstede.
Spørsmål: Hvorfor er Metas innsats for å oppdage og merke AI-generert innhold viktig?
Svar: AI deepfakes og hendelser med kontroversiell bildeendring har funnet sted, noe som understreker behovet for å motvirke bedrag. Ved å oppdage og merke AI-generert innhold ønsker Meta å skape et tryggere digitalt miljø.
Spørsmål: Hvordan planlegger Meta å skape et tryggere digitalt miljø?
Svar: Meta ønsker å fremme gjennomsiktighet og gi brukerne informasjon om innholdets natur de møter, slik at enkeltindivider kan navigere og engasjere seg med medier på en ansvarlig måte.
Definisjoner:
1. AI-genererte bilder: Bilder som er opprettet ved hjelp av kunstig intelligens, der AI-programvaren genererer innholdet i stedet for et menneske.
2. Metadata: Beskrivende informasjon om en fil, inkludert detaljer om opphavet, skaperen og innholdet.
3. Usynlige vannmerker: Digitale merker som er innbakt i mediefiler og kan brukes til å identifisere deres opprinnelse eller spore uautorisert bruk.
Foreslåtte relaterte lenker:
– Meta: Offisiell nettside for Meta, morselskapet til Facebook, Instagram og Threads.
– Facebook Newsroom: Gir offisielle nyheter og oppdateringer fra Facebook, et datterselskap av Meta.
– Instagram Press: Tilbyr offisielle pressemeldinger og oppdateringer fra Instagram, et datterselskap av Meta.
The source of the article is from the blog foodnext.nl