I takt med att valperioden i Indien närmar sig har farhågor kring påverkan av artificiell intelligens (AI) deepfakes på politiska kampanjer vuxit. Deepfakes, vilka är syntetiska och realistiska bilder och videor, har blivit mer utbredda och sofistikerade under de senaste åren. De kan manipulera politikers tal och uppträdanden, vilket skapar en känsla av tvivel och misstro hos väljarna.
Med tillgång till billig mobildata och hög smartphone-penetration i Indien finns farhågor om att deepfakes kan spridas genom plattformar som WhatsApp och påverka väljarnas beslut eller få dem att ifrågasätta betydelsen av sina röster.
För att ta itu med dessa farhågor har den indiska Ministry of Electronics and Information Technology nyligen utfärdat en rekommendation till företag som utvecklar generativ AI. Rekommendationen fastslår att om dessa företag erbjuder AI-system som fortfarande är under testning eller opålitliga måste de få explicit tillstånd från regeringen och märka utdata på motsvarande sätt. Målet är att förhindra skapandet av olagligt eller vilseledande innehåll som kan undergräva den valda processen.
Dock har denna rekommendation mött hård kritik från både nationella och internationella AI-aktörer. Många hävdar att den hämmar innovation och yttrandefrihet. Minister of State for Electronics and IT, Rajeev Chandrasekhar, klargjorde att rekommendationen inte gäller för start-ups, vilket har skapat viss lättnad. Trots det kvarstår farhågor kring missbruk av AI-teknologi.
Som svar på dessa farhågor har Senthil Nayagam, grundaren av start-up Muonium AI, skapat ett ’Ethical AI Coalition Manifesto’ inför valet. Detta manifest syftar till att säkerställa att AI-teknologier används ansvarsfullt och inte manipulerar val, sprider desinformation eller eroderar allmänhetens förtroende för politiska institutioner. Nayagam har kontaktat cirka 30 företag, varav två redan har skrivit under manifestet och tre är på väg att göra det.
Alla AI-skapelser är inte onda deepfakes avsedda att smutskasta motståndare. Vissa tillämpningar, som personliga interaktiva telefonsamtal, fungerar mer som nyheter än som hot mot valintegriteten. Till exempel har politiska partier i Indien använt syntetiserade röster för att skicka ut förinspelade meddelanden där de adresserar individuella väljare vid namn. Även om dessa tillämpningar kan verka harmlösa är det viktigt att beakta möjligheten till missbruk.
Divyendra Singh Jadoun, en AI-skapare känd som The Indian Deepfaker, har tränat röst- och video-AI-modeller för att distribuera skräddarsydda meddelanden för politiska partier. Han hävdar att han arbetar med ”etisk” AI-skapelse, såsom auktoriserade översättningar och återupplivning av avlidna ledare, med partiets godkännande. Han erkänner emellertid att eftersom deepfake-teknologin blir mer tillgänglig producerar partierna i allt högre grad sina egna deepfakes, vilket gör det enklare att sprida desinformation.
Experter inom området, som Karen Rebelo från faktakollen webbplatsen BOOM, har noterat en betydande ökning av AI-deepfakes under de senaste församlingarna i Indien. Tekniken har blivit billigare och mer tillgänglig, vilket möjliggör för vem som helst med en bärbar dator att skapa deepfakes. Detta ger upphov till farhågor om den potentiella effekten av deepfakes på valens rättvisa och öppenhet.
Även om AI-deepfakes är en orosanledning har de också potential att användas för gott. AI-teknologier kan spela en positiv roll i att förbättra den demokratiska processen, såsom att förbättra tillgängligheten för funktionsnedsatta väljare eller att erbjuda korrekta översättningar av politiska tal. Nyckeln ligger i att se till att dessa teknologier används etiskt och ansvarsfullt.
När Indien förbereder sig inför de kommande valen är det avgörande för regeringen, AI-företag och politiska partier att samarbeta för att fastställa tydliga riktlinjer och regelverk för användningen av AI i politiska kampanjer. Genom att prioritera transparens, ansvar och integriteten i den valda processen kan Indien utnyttja potentialen av AI samtidigt som man minskar riskerna det innebär.
Förändringar och farhågor kring deepfakes i politiska kampanjer är inte begränsade till enbart Indien. Användningen av deepfake-teknik har blivit en global fråga med konsekvenser för olika branscher och marknader.
DJupfakelindustrin är på väg att växa markant inom de kommande åren. Enligt en rapport från MarketsandMarkets förväntas den globala deepfake-marknaden nå ett värde av $304.3 miljoner fram till år 2026, med en årlig tillväxttakt (CAGR) på 37.3% från 2021 till 2026. Denna marknadstillväxt kan tillskrivas ökad användning av AI-teknologi och en ökande medvetenhet om deepfakes.
Potentialen med deepfakes sträcker sig bortom politiska kampanjer. Branscher som underhållning, cybersäkerhet och journalistik står också inför utmaningar relaterade till deepfake-teknik. Inom underhållningsindustrin kan deepfakes användas för att manipulera skådespelares uppträdanden eller skapa realistiska virtuella avatarer. Detta väcker frågor om integritet, immateriella rättigheter och äktheten i innehållet.
Inom cybersäkerhetsfältet utgör deepfakes ett betydande hot. Falska videor och bilder kan användas för att lura individer eller få obehörig åtkomst till system. Cyberbrottslingar kan utnyttja deepfakes för att skapa övertygande phishingattacker eller manipulera digitalt bevis under rättsliga processer.
Journalistik är en annan bransch påverkad av deepfakes. Spridningen av desinformation och erosion av allmänhetens förtroende är betydande utmaningar som journalister står inför i deepfake-åldern. Nyhetsorganisationer måste utveckla robusta faktakollningsmetoder och utbilda allmänheten i att upptäcka och verifiera äktheten i innehållet.
I svar på det ökande hotet av deepfakes har olika initiativ och organisationer uppstått för att bekämpa deras negativa effekter. Ett sådant initiativ är Deepfake Detection Challenge (DFDC), organiserat av ett samarbete mellan Facebook, Microsoft, Partnership on AI och flera akademiska institutioner. DFDC syftar till att utveckla och främja detektionsmetoder för att identifiera deepfakes och därmed begränsa deras spridning.
Ansvaret för att tackla problemet med deepfakes sträcker sig bortom regleringar från regeringar och branschinitiativ. Individer behöver också vara medvetna om existensen av deepfakes och vara försiktiga med det innehåll de konsumerar och delar. Fakta-kontroll av information, verifiering av källor och främjande av mediekunskap är väsentliga steg för att bekämpa spridningen av deepfakes.
Även om att hantera deepfakes är en komplex uppgift kan framsteg inom AI-teknologi också användas för att utveckla verktyg för att upptäcka och mildra deras påverkan. Maskininlärningsalgoritmer kan tränas för att identifiera avvikelser i videor eller bilder och särskilja mellan äkta och manipulerat innehåll. Ongoing forskning och samarbete mellan teknikföretag, forskare och beslutsfattare är avgörande för att effektivt ta itu med utmaningar relaterade till deepfakes.
Relaterade länkar:
– MarketsandMarkets Deepfake Market-rapport
– Deepfake Detection
Frågor och Svar
The source of the article is from the blog macnifico.pt