OpenAI, skaberen af det samtalebaserede AI-program kendt som ChatGPT, har identificeret flere organisationer baseret i Rusland, Kina og andre regioner, der angiveligt bruger AI til at påvirke den offentlige mening.
Disse grupper, der foretrækker at holde deres identitet fortrolig, har anvendt AI-genereret tekst og oprettelse af sociale mediekonti samt brug af AI til programmeringsopgaver. I deres aktiviteter har de fokuseret på sensitive geopolitiske emner, herunder den russiske invasion af Ukraine, konflikterne i Gaza og amerikansk politik.
Blandt disse er en organisation med base i Kina særlig aktiv og genererer indhold, der kritiserer den kontroversielle udledning af behandlede vand fra Japans Fukushimas Daiichi-atomkraftværk. Operationen omfattede også japansksprogede indlæg online. Derudover indikerer rapporter, at disse AI-skabte beskeder ikke har opnået betydelig visning på sociale medieplatforme.
Desuden afslørede OpenAI, at der har været tilfælde, hvor forsøg på at generere propaganda-billeder via AI-værktøjer blev mødt med afvisning af softwaren, hvilket understreger de etiske sikkerhedsforanstaltninger, der er implementeret for at forhindre misbrug. OpenAI har offentliggjort en rapport, der detaljerer disse trusler på samme dag, som resultaterne blev annonceret, og understreger vigtigheden af overvågning og regulering af AI-brug for at forhindre sådanne manipulative praksisser.
Vigtighed og Relevans af AI i Manipulation af Den Offentlige Mening:
Brugen af AI til manipulation af den offentlige mening er en betydningsfuld bekymring, da det kan påvirke politiske valg, ændre den offentlige holdning til centrale emner og endda være med til at forårsage konflikter mellem forskellige grupper. Kunstig intelligensværktøjer, såsom dem udviklet til at skabe deepfakes eller skrive overtalende tekster, kan sprede desinformation i stor skala og med en hastighed, der langt overgår menneskelige evner.
Centrale Spørgsmål og Svar:
– Hvad foranstaltninger anvender organisationer til at manipulere den offentlige mening med AI?
Organisationer bruger AI til at generere overtalende tekst, fabrikere realistiske billeder eller videoer (deepfakes), oprette falske sociale medieprofiler og automatisere spredningen af desinformation.
– Hvordan forhindrer OpenAI, at deres værktøjer bruges til propaganda?
OpenAI implementerer etiske sikkerhedsforanstaltninger og tilsynsmekanismer, der kan opdage og forhindre, at softwaren genererer indhold beregnet til propaganda eller desinformation.
– Hvilke udfordringer er knyttet til reguleringen af AI’s brug til manipulation?
Spredningen af AI-værktøjer og teknologier på tværs af internationale grænser gør det udfordrende at håndhæve reguleringer. Derudover kan AI’s udviklende kapaciteter overgå etableringen af effektive styringsrammer.
Centrale Udfordringer og Kontroverser:
De centrale udfordringer ved at håndtere AI’s brug til manipulation af den offentlige mening omfatter identifikation og tilskrivning af ondsindede aktiviteter til specifikke aktører, da mange skjuler deres identiteter eller opererer fra udlandet. Der er desuden en løbende debat om balancen mellem ytringsfrihed og behovet for at dæmme op for falske oplysninger, samt rollen som tech-virksomheder versus statsmyndigheder i reguleringen af indhold.
Fordele ved AI:
– Gør effektiv dataforarbejdning og -analyse mulig for at forstå tendenser i den offentlige mening.
– Let for hurtig videregivelse af information ved legitime nyheder eller nødmeldinger.
Ulemper ved AI:
– AI kan bruges til at forstærke falske fortællinger og skabe sofistikerede desinformationskampagner.
– Rejser bekymringer om underminering af tilliden til medier og demokratiske institutioner.
Regulerende Indsatser og Etiske Overvejelser:
Fremskridt inden for AI har udløst diskussioner om etisk brug og regulerende foranstaltninger for at forhindre misbrug i den politiske arena. Organisationer og regeringer over hele verden er nu mere bevidste og arbejder i stigende grad på at udvikle politikker til at tackle de etiske udfordringer, AI indebærer.
Hvis du ønsker at læse mere om implikationerne af AI og dens samlede samfundsmæssige indvirkning, kan du udforske følgende links:
– OpenAI
– FN’s Digitale Samarbejde
– Verdenssundhedsorganisationen (for sundhedsrelaterede AI-emner)
The source of the article is from the blog guambia.com.uy