En grupp av 20 teknikföretag, inklusive Google, Meta, OpenAI och X (tidigare Twitter), har gjort ett gemensamt åtagande om att bekämpa bedrägligt innehåll genererat av artificiell intelligens (AI) för att skydda globala val som planeras äga rum i år. Företagen har gått samman och undertecknat Tech Accord för att Bekämpa Bedräglig Användning av AI i 2024 års val vid Münchens säkerhetskonferens.
Accorden etablerar en frivillig ram som sammanfattar principer och åtgärder för att förebygga, upptäcka, reagera på, utvärdera och identifiera källan till bedrägligt AI-valinnehåll. Undertecknarna av accorden, som även inkluderar TikTok, Amazon, IBM, Anthropic och Microsoft, har lovat att öka medvetenheten bland allmänheten om att skydda sig mot manipulation orsakad av sådant innehåll.
Enligt accorden har de 20 organisationerna förbundit sig till flera initiativ. De kommer att försöka upptäcka och förhindra spridningen av bedrägligt AI-valinnehåll, ge öppenhet till allmänheten angående deras tillvägagångssätt för att hantera sådant innehåll samt utveckla och implementera verktyg för att identifiera och begränsa spridningen av bedrägligt innehåll. Ansträngningar kommer också att göras för att spåra innehållets ursprung, potentiellt genom användning av klassificerare, provenansmetoder, vattenstämplar eller att fästa maskinläsbar information på AI-genererat innehåll.
De åtaganden som dessa företag har gjort kommer att gälla för de tjänster de tillhandahåller. Tech Accord omfattar övertygande ljud, video och bilder genererade av AI som bedrägligt förfalskar eller ändrar utseendet, rösten eller handlingarna hos politiska kandidater, valtjänstemän och andra nyckelaktörer, samt spridning av falsk information om röstningsförfaranden.
Accorden erkänner den ökande betydelsen av AI i den demokratiska processen och understryker behovet av kollektiva åtgärder för att skydda val och valprocessen. Undertecknarna inser att att hantera den bedrägliga användningen av AI är inte bara en teknisk utmaning utan också en politisk, social och etisk fråga. De betonar att att skydda valens integritet och allmänhetens förtroende är ett gemensamt ansvar som överstiger partipolitiska intressen och nationella gränser.
Genom att samordna sina insatser syftar teknikföretagen till att hantera risker relaterade till bedrägligt AI-valinnehåll på sina offentliga plattformar eller öppna grundmodeller. Accorden täcker inte modeller eller demonstrationer avsedda för forskningsändamål eller främst för företagsbruk. Undertecknarna betonar att AI har potential att hjälpa till att bekämpa skadliga aktörer och möjliggöra snabbare upptäckt av bedrägliga kampanjer, samtidigt som de minskar de totala försvarskostnaderna.
Tech Accord representerar en avgörande steg för att främja valintegritet och samhällets motståndskraft och stödjer skapandet av pålitliga teknikpraxis. Eftersom desinformation och felinformation utgör betydande risker för samhällets sammanhållning måste det globala samfundet förbli proaktivt i att skydda legitimiteten hos de nyinvalda regeringarna.
Vanliga frågor om Tech Accord för att Bekämpa Bedräglig Användning av AI i 2024 års val:
1. Vad är syftet med Tech Accorden?
Tech Accord syftar till att bekämpa bedrägligt innehåll genererat av artificiell intelligens (AI) för att skydda globala val planerade att äga rum år 2024.
2. Vilka företag har anslutit sig till accorden?
Accorden har undertecknats av 20 teknikföretag, inklusive Google, Meta, OpenAI, X (tidigare Twitter), TikTok, Amazon, IBM, Anthropic och Microsoft.
3. Vad etablerar accorden?
Accorden etablerar en frivillig ram som sammanfattar principer och åtgärder för att förebygga, upptäcka, reagera på, utvärdera och identifiera källan till bedrägligt AI-valinnehåll.
4. Vilka initiativ har företagen förbundit sig till?
Undertecknarna av accorden har förbundit sig att upptäcka och förhindra spridningen av bedrägligt AI-valinnehåll, ge öppenhet till allmänheten angående deras tillvägagångssätt för att hantera sådant innehåll samt utveckla verktyg för att identifiera och begränsa spridningen av bedrägligt innehåll.
5. Hur kommer ursprunget till bedrägligt innehåll att spåras?
Ansträngningar kommer att göras för att spåra ursprunget till bedrägligt innehåll potentiellt genom användning av klassificerare, provenansmetoder, vattenstämplar eller att fästa maskinläsbar information på AI-genererat innehåll.
6. Är accorden tillämplig på alla tjänster som de anslutna företagen tillhandahåller?
Ja, åtagandena som företagen har gjort kommer att gälla för de tjänster de tillhandahåller.
7. Vilka typer av innehåll täcker accorden?
Tech Accord täcker bedrägligt AI-genererat ljud, video och bilder som bedrägligt förfalskar eller ändrar utseendet, rösten eller handlingarna hos politiska kandidater, valtjänstemän och andra nyckelaktörer, samt spridning av falsk information om röstningsförfaranden.
8. Varför behövs kollektiva åtgärder för att adressera den bedrägliga användningen av AI?
Accorden erkänner den ökande betydelsen av AI i den demokratiska processen och betonar att att hantera den bedrägliga användningen av AI inte bara är en teknisk utmaning, utan också en politisk, social och etisk fråga. Det är ett gemensamt ansvar som överstiger partipolitiska intressen och nationella gränser.
9. Täcker accorden alla AI-modeller?
Accorden täcker inte modeller eller demonstrationer avsedda för forskningsändamål eller främst för företagsbruk. Den fokuserar på offentliga plattformar eller öppna grundmodeller.
10. Hur bidrar accorden till valintegritet och samhällets motståndskraft?
Tech Accord representerar en avgörande steg för att främja valintegritet och samhällets motståndskraft och stödjer skapandet av pålitliga teknikpraxis. Den syftar till att skydda legitimiteten hos nya inkommande regeringar och säkerställa allmänhetens förtroende.
Definitioner:
– Artificiell intelligens (AI): Simuleringen av mänsklig intelligens i maskiner som är programmerade att tänka och lära sig som människor.
– Bedrägligt innehåll: Innehåll som är designat för att vilseleda eller manipulera människor genom att presentera falsk eller vilseledande information.
– Valintegritet: Principerna och praxisen som säkerställer fria, rättvisa och transparenta val.
– Samhällets motståndskraft: Ett samhälles förmåga att tåla och återhämta sig från chocker, såsom spridningen av desinformation och felinformation.
The source of the article is from the blog guambia.com.uy