OpenAI, skaperen av den samtale-kunstige intelligensprogrammet kjent som ChatGPT, har identifisert fleire organisasjonar basert i Russland, Kina og andre regionar som angivelig nyttar AI for å påverke offentleg meining.
Desse gruppene, som føretrekkjer å halde identitetane deira konfidensielle, har nytta seg av AI-generert tekst og opprettelse av sosiale mediekontoar, samt bruk av AI for programmeringsoppgåver. I sine operasjonar har dei fokusert på sensitive geopilitiske spørsmål, inkludert den russiske invasjonen av Ukraina, konfliktar i Gaza og amerikansk politikk.
Eit kinesiskbasert selskap har vore særleg aktivt i å generere innhald som kritiserer den kontroversielle utslipp av behandla vatn frå Japans Fukushima Daiichi-atomkraftverk. Operasjonen vart også utvida til japansk-språklege innlegg på nettet. Rapportar indikerer likevel at desse AI-skapte meldingane ikkje har fått betydeleg publikum på sosiale medieplattformer.
Vidare avslørte OpenAI at det har vore tilfeller der forsøk på å generere propagandabiletar gjennom AI-verktøy vart møtt med avslag av programvaren, noko som understrekar etiske føre-var-tiltak for å hindre misbruk. OpenAI har gjeve ut ein rapport som detaljerer desse truslane same dagen som funna vart kunngjort, og understrekjer viktigheita av å overvåke og regulere AI-bruk for å hindre slike manipulerande praksisar.
Viktigheit og relevans av AI i å manipulere offentleg meining:
Bruken av AI til å manipulere offentleg meining er ei betydeleg bekymring, sidan det kan påverke politiske val, endre offentleg sentiment om sentrale spørsmål og til og med incitere konfliktar mellom ulike grupper. Kunstig intelligensverktøy, som dei utvikla for å lage deepfakes eller skrive overbevisande tekstar, kan spreie desinformasjon i stor skala og med ein hastigheit som langt overgår menneskets evner.
Sentrale spørsmål og svar:
– Kva metodar nyttar organisasjonar for å manipulere offentleg meining med AI?
Organisasjonar nyttar AI til å generere overbevisande tekst, lage realistiske bilete eller videoar (deepfakes), opprette falske sosiale medieprofilar og automatisere spreiinga av misinformasjon.
– Korleis førebyggjer OpenAI at verktøya deira blir brukt til propaganda?
OpenAI implementerer etiske føre-var-tiltak og tilsynsmekanismar som kan oppdage og hindre at programvaren genererer innhald som er meint for propaganda eller misinformasjon.
– Kva utfordringar er knytta til å regulere bruk av AI for manipulasjon?
Spredninga av AI-verktøy og teknologiar over internasjonale grenser gjer det utfordrande å håndheve reguleringar. Vidare kan AI si utvikling av evner overstige etableringa av effektive styringsrammer.
Sentrale utfordringar og kontroversar:
Dei sentrale utfordringane med å handtere bruk av AI for å manipulere offentleg meining inkluderer å identifisere og tilskrive skadelege aktivitetar til spesifikke aktørar, sidan mange skjuler identitetane sine eller opererer frå utlandet. I tillegg er det ein pågåande debatt om balansen mellom ytringsfridom og behovet for å dempe falsk informasjon, samt rolla til teknologiselskap kontra statleg myndighet i å regulere innhald.
Fordelar med AI:
– Mogleggjer effektiv databehandling og analyse for å forstå trendar i offentleg meiningsytring.
– Lettare spreiing av informasjon for legitime nyheiter eller nødmeldingar.
Ulemper med AI:
– AI kan brukast til å forsterke falske einskildmeningar og lage sofistikerte desinformasjonskampanjar.
– Reiser bekymringer om ein svekking av tillit til media og demokratiske institusjonar.
Reguleringsmessige tiltak og etiske omsyn:
Framsteg innan AI har ført til diskusjonar om etisk bruk og reguleringstiltak for å hindre misbruk i den politiske arenaen. Organisasjonar og regjeringar over heile verda er no meir bevisste og jobbar aukande med å utvikle retningslinjer for å takle dei etiske utfordringane AI presenterer.
The source of the article is from the blog radardovalemg.com