Meta Platforms, morselskapet til Facebook og Instagram, har kunngjort planer om å oppdage og merke bilder generert av kunstig intelligens (AI) tjenester levert av andre selskaper. Selskapet har som mål å bruke usynlige markører som er innlemmet i bildefilene for å skille mellom ekte fotografier og digitalt skapt innhold. Dette merkesystemet vil bli brukt på allt innhold som inneholder markørene og deles på Metas plattformer.
Introduksjonen av dette merkesystemet er et forsøk på å adressere det utbredte problemet med villende og falskt innhold produsert av generative AI-teknologier. Disse teknologiene har evnen til å skape realistisk lignende bilder som svar på enkle instruksjoner, noe som vekker bekymring for potensielle skader forbundet med misbruk av dem. Metas merkeinitiativ er en del av en større bevegelse innen teknologibransjen for å etablere standarder og begrense de negative virkningene av generative AI.
Meta sin president for globale saker, Nick Clegg, uttrykte tillit til selskapets evne til pålitelig å merke AI-genererte bilder. Han erkjente imidlertid kompleksiteten i å utvikle lignende verktøy for lyd og videomateriale. Mens teknologien for merking av lyd og video ennå ikke er fullt utviklet, planlegger Meta å kreve at enkeltpersoner merker sitt eget endrede lyd- og videomateriale, med straff for manglende overholdelse.
Det er verdt å merke seg at Metas merkeinitiativ for tiden ikke gjelder skriftlig tekst generert av AI-verktøy som ChatGPT. Clegg uttalte at det for tiden ikke finnes en egnet mekanisme for å merke slikt innhold. I tillegg er det uklart om Meta vil merke generativ AI-innhold som deles på sin krypterte meldingstjeneste, WhatsApp.
Den nylige oppmerksomheten Meta har fått for sin politikk angående villedende manipulerte videoer fra sitt uavhengige tilsynsråd, fikk Clegg til å erkjenne behovet for forbedrede tiltak. Rådet anbefalte merking i stedet for fjerning av slikt innhold. Clegg var enig med rådets vurdering og uttalte at Metas eksisterende politikk ikke lenger er tilstrekkelig gitt den økende tilstedeværelsen av syntetisk og hybridt innhold. Ved å etablere et merkesamarbeid med andre teknologiselskaper, har Meta som mål å vise sin forpliktelse til å håndtere disse bekymringene.
Konklusjonen er at Meta Platforms» beslutning om å merke AI-genererte bilder markerer et viktig skritt i kampen mot misinformasjon og økt åpenhet på sine plattformer. Mens teknologibransjen fortsetter å streve med utfordringene som generative AI-teknologier fører med seg, blir samarbeidsinnsats som dette merkeinitiativet avgjørende for å forme ansvarlig bruk av AI.
En ofte stilte spørsmål (FAQ)-seksjon:
Spørsmål: Hva er Meta Platforms?
Svar: Meta Platforms er morselskapet til Facebook og Instagram.
Spørsmål: Hva er Metas plan angående bilder generert av kunstig intelligens (AI)?
Svar: Meta planlegger å oppdage og merke bilder generert av AI-tjenester levert av andre selskaper. De vil bruke usynlige markører i bildefiler for å skille mellom ekte fotografier og digitalt skapt innhold.
Spørsmål: Hvorfor implementerer Meta dette merkesystemet?
Svar: Meta har som mål å håndtere det utbredte problemet med villende og falskt innhold produsert av generative AI-teknologier.
Spørsmål: Hvilke bekymringer reises av generative AI-teknologier?
Svar: Generative AI-teknologier har evnen til å skape realistisk lignende bilder som respons på instruksjoner, noe som vekker bekymring for potensielle skader forbundet med misbruk av dem.
Spørsmål: Har Meta tillit til sin evne til å merke AI-genererte bilder?
Svar: Ja, Meta sin president for globale saker, Nick Clegg, uttrykte tillit til selskapets evne til pålitelig å merke AI-genererte bilder.
Spørsmål: Gjelder merkesystemet også lyd- og videomateriale?
Svar: For tiden er teknologien for merking av lyd og video ikke fullt utviklet. Meta planlegger å kreve at enkeltpersoner merker sitt eget endrede lyd- og videomateriale, men har ikke verktøy for automatisk merking av slik innhold.
Spørsmål: Vil Meta merke generativ AI-innhold som deles på WhatsApp?
Svar: Det er uklart om Meta vil merke generativ AI-innhold som deles på sin krypterte meldingstjeneste, WhatsApp.
Spørsmål: Hvorfor besluttet Meta å implementere merkeinitiativet?
Svar: Meta møtte kritikk for sin politikk angående villedende manipulerte videoer, noe som førte til behovet for forbedrede tiltak. Metas uavhengige tilsynsråd anbefalte merking i stedet for fjerning av slikt innhold, og Meta var enig i dette.
Nøkkelbegreper / fagspråk:
– Kunstig intelligens (AI): Simulering av menneskelig intelligensprosesser ved hjelp av maskiner, inkludert læring, resonnering og selvrettingsfunksjoner.
– Generative AI: AI-teknologier som kan skape nytt innhold, som bilder, lyd eller video, basert på instruksjoner eller eksempler.
– Villedende innhold: Innhold som er falskt eller presenterer en forvrengt virkelighet for å villede eller manipulere seere.
– Merkesystem: Et system som tilordner markører eller koder til innhold for å gi ekstra informasjon eller sammenheng.
Foreslåtte relaterte lenker:
– Meta
– Facebook
– Instagram
The source of the article is from the blog smartphonemagazine.nl