Kunstig intelligens (AI)-drevne billedskabelsesværktøjer, udviklet af virksomheder som OpenAI og Microsoft, har potentiale til at bidrage til valgdisinformation, på trods af platformenes politikker mod at skabe misvisende indhold, ifølge en rapport fra Center for Countering Digital Hate (CCDH). Mens disse værktøjer sigter mod at generere realistiske billeder ud fra tekstinput, brugte CCDH generative AI-værktøjer til at skabe misvisende billeder, såsom USA’s præsident Joe Biden liggende på et hospitalsseng og valgarbejdere, der ødelægger stemmemaskiner. Dette rejser bekymringer om spredningen af falske påstande og valgets integritet.
CCDH testede flere AI-værktøjer, herunder OpenAI’s ChatGPT Plus, Microsoft’s Image Creator, Midjourney og Stability AI’s DreamStudio. Studiet fandt, at AI-værktøjerne genererede billeder i 41% af forskernes tests, primært når de blev bedt om billeder, der skildrer valgsvindel. Dog blokerede værktøjer som ChatGPT Plus og Image Creator med succes anmodninger om billeder af specifikke kandidater. På den anden side klarede Midjourney sig dårligst ved at generere misvisende billeder i 65% af testene.
Rapporten påpegede også, at nogle Midjourney-billeder er offentligt tilgængelige, og der er beviser på, at folk bruger værktøjet til at skabe misvisende politisk indhold. Stifteren af Midjourney, David Holz, nævnte, at opdateringer relateret til det kommende amerikanske valg er på vej, og billederne, der blev skabt sidste år, repræsenterer ikke værktøjets aktuelle moderationspraksis. Stability AI har opdateret deres politikker for at forbyde svindel og oprettelsen eller fremme af desinformation.
Mens virksomheder som OpenAI arbejder på at forhindre misbrug af deres AI-værktøjer, er der stadig bekymringer om potentialet for, at disse værktøjer kan udnyttes til valgrelaterede disinformationskampagner. Det er afgørende, at teknologivirksomheder prioriterer valgets integritet og løbende forbedrer deres moderationspraksis for at bekæmpe spredningen af misvisende indhold.
The source of the article is from the blog hashtagsroom.com