Meta, den sosiale mediegiganten tidligere kjent som Facebook, har kunngjort betydelige endringer i sine retningslinjer angående manipulert og kunstig intelligens-generert innhold. Justeringene ble gjort som svar på anbefalingene fra Meta Oversight Board, en uavhengig instans som er ansvarlig for å overvåke innholdsmoderasjonen. Styret fant Metas tidligere retningslinjer å være «urokrystalde og forvirrende» og oppfordret selskapet til å revurdere sin tilnærming.
Katalysatoren for disse endringene var en kraftig redigert video av President Biden som dukket opp på Facebook. Videoen, som var manipulert for å skape et misvisende inntrykk, viste Biden upassende berøre brystet til sin voksne barnebarn. Til tross for sin kontroversielle natur, brøt ikke videoen eksplisitt Metas retningslinjer fordi den ikke var generert ved hjelp av kunstig intelligens og ikke viste presidenten si eller gjøre noe han faktisk ikke gjorde.
Imidlertid kritiserte Oversynstyret Metas nåværende policy som «urokrystallde» og argumenterte for at den burde fokusere mer på å hindre spesifikke skader, slik som valgforstyrrelser, heller enn metoden for innholdsoppretting. Som respons har Meta kunngjort at de vil begynne å merke AI-generert innhold og vil justere retningslinjene sine for å merke manipulert innhold med «informasjonsmerker og kontekst.» Målet er å gi brukerne mer informasjon og kontekst om innholdet de konsumerer, heller enn bare å fjerne det basert på brudd på fellesskapsstandarder.
Den oppdaterte policyen vil også omfatte en bredere rekke innhold enn manipulert media, i samsvar med anbefalingene fra Oversynstyret. Spesifikt vil Meta vurdere å legge til mer fremtredende etiketter på digitalt opprettet eller endret bilder, videoer eller lyd som utgjør en høy risiko for å villede offentligheten på viktige områder. Denne tilnærmingen gjenspeiler Metas anerkjennelse av at AI-teknologien har avansert til det punktet hvor den kan generere realistisk innhold på tvers av ulike medier, og manipulasjon må behandles deretter.
Selv om disse endringene markerer en betydelig avvik fra Metas tidligere standpunkt angående manipulert og AI-generert innhold, er de avgjørende for å takle de økende utfordringene som følger med stadig utviklende teknologi. Med verktøy som AI som gjør det lettere for brukere å endre eller fabrikkere realistiske videoklipp og lydopptak, er potensialet for desinformasjon og velgerundertrykkelse en bekymring.
Vanlige spørsmål
Spm: Hva fikk Meta til å innføre nye retningslinjer?
A: Metas beslutning om å innføre nye retningslinjer for manipulert og AI-generert innhold ble påvirket av anbefalingene fra Meta Oversight Board, som fant selskapets tidligere retningslinjer uklare og i behov av revurdering.
Spm: Hvordan vil Metas nye retningslinjer påvirke manipulert media?
A: I henhold til de nye retningslinjene vil Meta merke manipulert media med «informasjonsmerker og kontekst» i stedet for å fjerne dem helt. Hensikten er å gi brukerne mer informasjon og kontekst om innholdet de konsumerer.
Spm: Vil Metas nye retningslinjer bare gjelde for manipulerte videoer?
A: Nei, de nye retningslinjene vil omfatte en bredere rekke innhold enn manipulerte videoer. Meta vil vurdere å merke digitalt opprettede eller endrede bilder, videoer eller lyd som utgjør en høy risiko for å villede offentligheten om viktige saker.
Spm: Hvorfor bestemte Meta seg for å gjøre disse endringene?
A: Meta erkjente at deres tidligere tilnærming til manipulert innhold var smal og ikke tok hensyn til fremskrittene innen AI-teknologi. Selskapet anerkjente behovet for å adressere manipulasjon på tvers av ulike medier, som lyd og bilder, for å forhindre spredning av misvisende informasjon.
Kilder:
– Meta Offisiell Kunngjøring
– Meta Oversight Board Anbefalinger
Kulisser og markedsprognoser:
Sosiale medier-industrien har opplevd en rask vekst og transformasjon, drevet av fremskritt innen teknologi og endrede brukeradferd. Ifølge en rapport fra Statista er det globale sosiale medier-markedet forventet å nå en verdi på $186.4 milliarder innen 2023, med en årlig vekst på 11,9% fra 2019 til 2023. Denne veksten tilskrives faktorer som økende internettdekning, økningen av mobile enheter og den økende populariteten til sosiale nettverksplattformer.
Imidlertid står industrien også overfor ulike utfordringer, inkludert bekymringer knyttet til personvern, spredning av desinformasjon og misbruk av plattformer til skadelige aktiviteter. Manipulert og kunstig intelligens-generert innhold har spesielt blitt betydelige problemstillinger, og utgjør risikoer for integriteten til online-innhold og demokratiske prosesser.
Spørsmål knyttet til manipulert og kunstig intelligens-generert innhold:
Spredningen av AI-teknologi har gjort det stadig enklere for brukere å skape og dele manipulert media. Dette har reist bekymringer rundt potensialet for desinformasjon, propaganda og til og med manipulasjon av offentlig opinion. I sammenheng med politiske kampanjer og valg kan manipulert innhold undergrave tillit, fordreie fakta og potensielt påvirke velgeres adferd.
Videre har de raske fremskrittene innen AI-teknologi gjort det utfordrende for innholdsmoderasjonssystemer å holde tritt med deteksjon og fjerning av manipulert og AI-generert innhold. Volumet og sofistikasjonen til slikt innhold gjør det til en formidabel oppgave for sosiale medieplattformer å effektivt adressere problemet utelukkende gjennom automatiserte prosesser.
For å takle disse utfordringene har sosiale medieplattformer som Meta vært under press for å oppdatere sine retningslinjer og forbedre sine strategier for innholdsmoderasjon. Anbefalingene fra Meta Oversight Board og Metas påfølgende policyjusteringer gjenspeiler industrien anerkjennelse av behovet for mer robuste tiltak for å bekjempe manipulert og AI-generert innhold.
Ved å implementere retningslinjer som fokuserer på merking og kontekst, har Meta som mål å informere brukerne om innholdets art, slik at de kan ta mer informerte avgjørelser. Denne tilnærmingen samsvarer med innsatsene for å bekjempe spredning av desinformasjon og fremme mediekyndighet. Det understreker også industrien skifte mot en mer nyansert forståelse av risikoene forbundet med manipulert og AI-generert innhold.
Avslutningsvis tilpasser sosiale medieindustrien seg utfordringene fremkalt av manipulert og AI-generert innhold. Metas policyendringer er et skritt mot å takle det stadig skiftende landskapet av online innhold og medie-manipulasjon. Ved å implementere strategier som fokuserer på merking og kontekst, har Meta som mål å gi brukerne den nødvendige informasjonen for å navigere i den digitale verdenen og treffe informerte beslutninger.
The source of the article is from the blog krama.net