Stora teknologiföretag har gått samman i en oöverträffad satsning för att ta itu med det potentiella missbruket av artificiell intelligens (AI) verktyg i demokratiska val över hela världen. Partnerskapet, som tillkännagavs på München Security Conference, innefattar ledare från branschledare som Adobe, Google, Microsoft och Amazon, bland andra.
Samarbetsfokuset är att hantera det växande hotet från AI-genererade deepfakes, som kan manipulera bilder, ljud och video för att lura väljarna. Även om avtalet främst är symboliskt, representerar det ett betydande steg mot att ta itu med bekymren kring felanvändning av AI inom politiken. Dessutom har tolv ytterligare företag, inklusive Anthropic, Inflection AI, ElevenLabs och Arm Holdings, också gått med i initiativet.
Nick Clegg, Global Affairs President för Meta, betonade det gemensamma ansvaret att konfrontera de utmaningar som uppstår med AI-tekniken. Han sade att ingen enskild enhet kan effektivt hantera påverkan av denna teknik ensam, vare sig det är ett tekniskt företag, en regering eller en civilsamhällesorganisation.
Avtalet syftar till att bekämpa spridningen av AI-genererat innehåll som förändrar utseendet, rösten eller handlingarna hos politiska kandidater samtidigt som falsk information sprids om valprocessen. Istället för att införa en totalförbud mot deepfakes fokuserar de involverade företagen på att upptäcka och märka vilseledande AI-innehåll snabbt och svara proportionellt för att begränsa dess spridning.
Även om frivilligheten i avtalet och bristen på bindande krav kan väcka granskning lyfter det fram företagens engagemang för att förhindra att deras verktyg underminerar fria och rättvisa val. Avtalet uppmanar plattformarna att beakta sammanhang och skydda olika former av uttryck, inklusive utbildnings-, dokumentära-, konstnärliga-, satiriska- och politiska innehåll. Det betonar också transparens i företagens policys och allmän utbildning om att känna igen och undvika AI-genererade deepfakes.
Denna tillkännagivelse kommer vid en kritisk tidpunkt, då mer än 50 länder planerar att hålla nationella val år 2024. Nyliga fall av AI-genererad valpåverkan, såsom rösteftermimmelfrågor och AI-genererat ljud som imiterar politiska kandidater, belyser brådskan att ta itu med denna fråga.
Medan vissa förespråkare uttrycker reservationer kring avtalets effektivitet, prisar Europeiska kommissionens vice ordförande Vera Jourova dess positiva element. Jourova betonar vikten av att politiker undviker vilseledande användning av AI-verktyg för att bevara demokratin.
När världen står inför ett ökande antal val markerar teknikindustrins frivilliga åtagande att bekämpa AI-genererade deepfakes ett betydande steg mot att skydda demokratiska processers integritet.
The source of the article is from the blog newyorkpostgazette.com