Roman RemberOnline plattformer står overfor ein ny utfordring med framveksten av AI-generert innhald. Nyleg introduserte ein populær video-delingsside ein policyendring som lét brukarar be om fjerning av innhald som vart skapt av kunstig intelligens som etterliknar deira utseende eller stemme. I staden for å bli merka som villedande innhald som deepfakes, er desse fjerningsforespørslane no ein del av plattformen sine personverninnstillingar.
Unntak frå fjerningsførespørslar inkluderer tilfelle der den råka personen er mindreårig, avdød, eller ikkje er i stand til å bruke datamaskin. Likevel er det ingen garanti for fjerning sjølv om nokon sitt utseende eller stemme blir replikert av AI-generert innhald, sidan plattformen vurderar ulike faktorar i denne avgjerda.
Faktorar som blir teke i betraktning kan inkludere om innhaldet vart skapt ved bruk av AI, om det identifiserer ein bestemt person, og om det kan anses å være støtande eller satirisk. Plattformen vurderer også om innhaldet inneber sensitivt materiale, som kriminell oppførsel, vald, eller støtte til ein politisk kandidat.
Når ein klage vert motteke angåande AI-generert innhald, har opplastaren 48 timar på seg til å handtere problemet. Dersom innhaldet blir fjerna i løpet av denne tidsramma, vert klagen lukka; elles vil plattformen gjennomgå situasjonen vidare. Dette understrekar den kontinuerlege utfordringa med å balansere AI-innovasjon med brukarvern og innhaldsmoderering på online plattformer.
