I ett banbrytande drag har stora teknikföretag gått samman för att ta itu med det ökande problemet med AI-genererade deepfakes i samband med demokratiska val. Vid München Security Conference undertecknade ledare från Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok och tolv andra företag, inklusive Elon Musks X, ett frivilligt avtal om att vidta ”rimliga försiktighetsåtgärder” mot användningen av AI-verktyg för att störa val världen över.
Även om överenskommelsen i stor utsträckning är symbolisk, lyfter den fram företagens engagemang för att bekämpa alltmer realistiska AI-genererade bilder, ljud och video som vilseleder eller ändrar utseendet, rösten eller handlingarna hos politiska kandidater, valtjänstemän och andra nyckelaktörer i demokratiska val. Avtalet syftar särskilt till att hantera spridningen av felaktig information till väljare om valregler och procedurer.
I motsats till förväntningarna har företagen inte åtagit sig att förbjuda eller ta bort deepfakes. Istället fastställer överenskommelsen strategier för att upptäcka och märka vilseledande AI-innehåll på deras plattformar. Företagen kommer också att dela bästa metoder och agera snabbt och proportionellt när sådant innehåll börjar spridas.
Även om de åtaganden som beskrivs i överenskommelsen saknar bindande krav, visar de en gemensam ansträngning bland teknikföretag att ta itu med problemet. Dock kan demokratiaktivister och övervakare tycka att det är beklagligt att åtagandena är för vaga och att starkare garantier krävs.
Det är avgörande att erkänna att företagen har ett personligt intresse av att se till att deras verktyg inte missbrukas för att undergräva fria och rättvisa val. Avtalet erkänner att varje företag har sina egna innehållspolicys anpassade till deras plattformar, vilket främjar yttrandefrihet och undviker en universell strategi.
Avtalet kommer i en avgörande tidpunkt, när över 50 länder planerar att hålla nationella val år 2024. AI-genererat valpåverkan har redan observerats i vissa länder, inklusive försök att avskräcka väljare genom AI-robocalls och spridning av AI-genererade ljudinspelningar som utger sig för att vara kandidater. Policymakers, faktagranskare och sociala medieplattformar står inför utmaningen att identifiera och mildra effekterna av AI-genererad desinformation.
Även om överenskommelsen främst fokuserar på deepfakes genererade av AI, erkänner den att andra former av manipulativt innehåll, kända som ”cheapfakes”, utgör ett liknande hot. Sociala medieföretag vidtar redan åtgärder för att avskräcka vilseledande inlägg genom befintliga policys och genom att ta bort desinformation relaterad till valprocesser. Dock krävs mer omfattande åtgärder för att bekämpa desinformation, som att utveckla system för innehållsrekommendation som prioriterar noggrannhet framför engagemang.
När tekniken fortsätter att utvecklas fungerar överenskommelsen som en viktig startpunkt för samarbete och innovation i kampen mot AI-genererade deepfakes. Den är ett bevis på det delade ansvaret hos teknikföretag, regeringar och civilsamhällets organisationer för att skydda integriteten hos demokratiska val världen över.
Vanliga frågor:
Vad handlar artikeln om?
Artikeln diskuterar en frivillig överenskommelse som har undertecknats av stora teknikföretag för att hantera användningen av AI-genererade deepfakes vid demokratiska val världen över. Den belyser företagens engagemang för att bekämpa spridningen av vilseledande AI-innehåll och felaktig information till väljare.
Vad är deepfakes?
Deepfakes är AI-genererade bilder, ljud eller video som vilseleder eller ändrar utseendet, rösten eller handlingarna hos individer. I den här artikeln används deepfakes för att manipulera politiska kandidater, valtjänstemän och andra nyckelaktörer vid demokratiska val.
Vilka teknikföretag har gått samman?
Företagen som deltog i överenskommelsen inkluderar Adobe, Amazon, Google, IBM, Meta (tidigare Facebook), Microsoft, OpenAI, TikTok och Elon Musks X, tillsammans med tolv andra företag.
Vilket är syftet med överenskommelsen?
Målet med överenskommelsen är att vidta ”rimliga försiktighetsåtgärder” mot användningen av AI-verktyg för att störa demokratiska val. Fokus ligger på att upptäcka och märka vilseledande AI-innehåll på plattformar, dela bästa metoder och agera snabbt mot sådant innehåll.
Förbjuder eller tar överenskommelsen bort deepfakes?
Nej, företagen har inte åtagit sig att förbjuda eller ta bort deepfakes. Istället kommer de att fokusera på strategier för upptäckt och märkning. Avtalet erkänner att varje företag har sina egna innehållspolicys anpassade till deras plattformar.
Vad är bekymret gällande deepfakes vid val?
Bekymret är att deepfakes kan sprida felaktig information till väljare om valregler och procedurer. Det kan vilseleda allmänheten och manipulera valresultatet genom att ändra utseendet, rösten eller handlingarna hos politiska kandidater och andra nyckelaktörer.
Är åtagandena i avtalet bindande?
Nej, åtagandena som beskrivs i avtalet är frivilliga och saknar bindande krav. Även om de visar en gemensam ansträngning från teknikföretag kan vissa tycka att åtagandena är för vaga och kräver starkare garantier.
Vilka andra typer av vilseledande innehåll nämns?
Artikeln nämner ”cheapfakes”, som är andra former av manipulativt innehåll som utgör ett liknande hot. Cheapfakes definieras inte specifikt i artikeln, men de hänvisar till vilseledande innehåll som är lättare och billigare att producera jämfört med deepfakes.
Föreslagen relaterad länk:
– Adobe
– Amazon
– Google
– IBM
– Meta (Facebook)
– Microsoft
– OpenAI
– TikTok
– X (Elon Musks företag)
The source of the article is from the blog macnifico.pt