OpenAI, skaberen af den samtalebaserede AI-program kendt som ChatGPT, har identificeret flere organisationer baseret i Rusland, Kina og andre regioner, der angiveligt udnytter AI til formål at påvirke den offentlige mening.
Disse grupper, som foretrækker at holde deres identiteter fortrolige, har anvendt AI-genereret tekst og oprettelse af sociale medieprofiler samt udnyttelse af AI til programmeringsopgaver. I deres aktiviteter har de fokuseret på følsomme geopolitiske spørgsmål, herunder den russiske invasion af Ukraine, konflikter i Gaza og amerikansk politik.
Blandt disse har en organisation med base i Kina været specielt aktiv med at generere indhold, der kritiserer den kontroversielle udledning af behandlet vand fra Japans Fukushima Daiichi-atomkraftværk. Operationen omfattede også japansksprogede indlæg online. Dog indikerer rapporter, at disse AI-skabte beskeder ikke har opnået betydelig visning på sociale medieplatforme.
Yderligere har OpenAI afsløret, at der har været tilfælde, hvor forsøg på at generere propagandabilleder via AI-værktøjer blev mødt med afslag af softwaren, hvilket fremhæver de etiske sikkerhedsforanstaltninger for at forhindre misbrug. OpenAI har udgivet en rapport, der detaljerer disse trusler på samme dag, som resultaterne blev annonceret, og understreger vigtigheden af at overvåge og regulere AI-brug for at forhindre sådanne manipulerende praksisser.
Betydning og relevans af AI til at manipulere den offentlige mening:
Brugen af AI til manipulation af den offentlige mening er en betydelig bekymring, da det kan påvirke politiske valg, ændre den offentlige holdning til nøgleproblemstillinger og endda anspore til konflikter mellem forskellige grupper. Kunstig intelligensværktøjer, som dem udviklet til at skabe deepfakes eller skrive overbevisende tekster, kan sprede desinformation i stor skala og med en hastighed, der langt overstiger menneskelige evner.
Nøglespørgsmål og svar:
– Hvilke midler anvender organisationer til at manipulere den offentlige mening med AI?
Organisationer bruger AI til at generere overbevisende tekst, fabrikere realistiske billeder eller videoer (deepfakes), oprette falske sociale medieprofiler og automatisere spredningen af desinformation.
– Hvordan forhindrer OpenAI, at dets værktøjer bruges til propaganda?
OpenAI implementerer etiske sikkerhedsforanstaltninger og tilsynsmekanismer, der kan opdage og forhindre softwaren i at generere indhold beregnet til propaganda eller desinformation.
– Hvilke udfordringer er forbundet med at regulere brugen af AI til manipulation?
Spredningen af AI-værktøjer og -teknologier på tværs af internationale grænser gør det udfordrende at håndhæve reguleringer. Derudover kan AI’s udviklende kapaciteter overgå oprettelsen af effektive styrende rammer.
Nødvendige udfordringer og kontroverser:
De største udfordringer ved at tackle brugen af AI til manipulation af den offentlige mening inkluderer at identificere og tilskrive ondsindede aktiviteter til specifikke aktører, da mange skjuler deres identitet eller opererer fra udlandet. Der er også en løbende debat om balancen mellem ytringsfrihed og behovet for at begrænse falske oplysninger samt rollen for tech-virksomheder versus statsautoritet i regulering af indhold.
Fordele ved AI:
– Gør effektiv databehandling og -analyse mulig for at forstå trends i den offentlige mening.
– Let at sprede hurtig information for legitimt nyhedsformidling eller nødmeddelelser.
Ulemper ved AI:
– AI kan bruges til at forstærke falske narrativer og skabe sofistikerede desinformationskampagner.
– Rejser bekymringer over erosion af tillid til medier og demokratiske institutioner.
Regulerende tiltag og etiske overvejelser:
Fremskridt inden for AI har ført til diskussioner om etisk brug og regulerende foranstaltninger for at forhindre misbrug i den politiske sfære. Organisationer og regeringer verden over er nu mere opmærksomme og arbejder i stigende grad på at udvikle politikker for at tackle de etiske udfordringer, som AI medfører.
Hvis du gerne vil læse mere om implikationerne af AI og dets generelle samfundsmæssige indvirkning, kan du udforske følgende links:
– OpenAI
– FN’s digitale samarbejde
– Verdenssundhedsorganisationen (for sundhedsrelaterede AI-spørgsmål)
The source of the article is from the blog zaman.co.at