I den stadig skiftande lanskapet av demokrati og teknologi har år 2024 ein enorm betydning. Med eit rekordstort tal land og enkeltpersonar som deltek i val, er me vitne til eit historisk øyeblikk i menneskets historie. Men saman med denne demokratiske framgangen, utgjer dei raske framstega innan kunstig intelligens (AI) ei unik trugsmål. Framveksten av «deepfakes,» realistiske manipulasjonar av lyd, video og bilete, har potensiale til å lure veljarar, og spelar eit farleg spel i politikkens rike.
I gjenkjenning av denne pressande utfordringa har teknologibransjen tatt eit avgjerande steg mot å takle problemet. På München Sikkerhetskonferanse har 20 framståande selskap kome saman for å kunngjere Tech Accord for å bekjempe svikaktig bruk av AI i 2024-vala. Utvilsamt er målet med denne avtalen vitalt – å bekjempe spreiinga av deepfake-innhold som endrar utseendet, stemma eller handlingane til politiske kandidatar og andre viktige personar som er involverte i valprosessen. Det er viktig å merke seg at denne initiativet ikke er drive av partiske interesser eller retta mot å kvele ytringsfridomen. I staden er målet å verne om veljarnes grunnleggjande rett til å velja sine leiarar, fri frå den gjennomtrengande påverknaden til AI-genererte manipulasjonar.
Sjølv om vegen framover kan vera utfordrande, representerer Tech Accord eit betydeleg og samla forsøk frå teknologibransjen. Det markerer eit kritisk øyeblikk i tid, sidan val i over 65 land er planlagde å finne stad gjennom heile året. Sjølv om det er mykje arbeid som gjenstår, fungerer denne globale initiativet som eit fundament for umiddelbar handling, og genererer momentum på tvers av ulike sektorar.
Det primære problemet som krev vår merksemd, er å skapa realistiske deepfakes ved hjelp av generative AI-verktøy. Desse verktøya har blitt stadig meir tilgjengelege, og tillèt produksjon av overbevisande lyd, video og bilete som kan manipulera utseende og handlingane til individ. Microsoft AI for Good Lab demonstrerte leidigheiten av denne prosessen ved å laga videoar som såg genuinte ut, endrande til og med språket og flyten til talaren. Slike manipulasjonar utgjer eit betydeleg risiko for autentisitet og integritet i demokratiske prosessar globalt.
AI har letta ein ny form for manipulasjon som har vore stadig meir utviklande dei siste tiåra, frå spreiinga av falske nettsider til bruken av botar i sosiale media. Dei siste månadane har det vore eit auka fokus på dette problemet og deira potensielle konsekvensane for val. Døme inkluderer AI-genererte robocalls under New Hampshire primærval, som etterlikna president Bidens stemme, såvel som deepfake-videoar med den britiske statsministeren, Rishi Sunak. Microsoft Threat Analysis Center har til og med spora enkelte deepfake-videoar til staten-aktørar, og understrekar tyngden av situasjonen.
Bruken av AI og deepfakes av skadelege element utgjer ein betydeleg risiko for demokratiske samfunn globalt, særleg ved å underminera publikums evne til å ta vette avgjerder under valg. I denne omgangen skjer samanstøyet omkring deepfakes mellom to sfærar innanfor teknologisektoren. På den eine sida er det selskap som skapar AI-modellar, applikasjonar og tenester som kan generera realistiske lyd, video og bildebasa innhald. På den andre sida er det plattformar og tenester gjennom kva desse deepfakes kan spreidast til allmennheten. Microsoft, som ein framståande aktør innanfor begge felt, har nytta si ekspertise for å identifisera og bekjempe deepfakes. Deira AI for Good Lab, i samarbeid med Microsoft Threat Analysis Center, har analysert og spora dårlege element og deira taktikkar, nytta AI-verktøy for forbetra oppdaging.
Likevel ligg kjerna av denne utfordringa ikkje i teknologien, men i menneskeleg samarbeid. Medan diskusjonane om deepfakes fekk auka momentum globalt, mangla det handling, og tida såg ut til å renna ut, særleg med føreståande val. I møte med desse presserande omstenda, vart samarbeidet nødvendig. Dagens kunngjering i München tyder på at det er resultatet av innsatsane til talrike selskap i teknologibransjen som har samla seg for å møta denne trusselen.
Utan tvil er dette ein betydeleg dag, og representerer engasjementet og kollektive arbeidet til engasjerte individ over heile teknologisektoren. Tech Accord er ein vesentleg milepåle, sidan han samla selskap frå begge sfærar av bransjen for å takla trugsmålet om deepfakes. Sjølv om reisa kan vera strabasiøs, legg denne avtalen grunnlaget for umiddelbar handling med siktemål om å bevare integriteten av demokratiske prosessar globalt.
The source of the article is from the blog enp.gr