I en historisk framstöt har EU-parlamentet godkänt lagen om artificiell intelligens, som syftar till att säkerställa säkerhet och överensstämmelse med grundläggande rättigheter samtidigt som innovationen accelereras. Förordningen, som överenskoms i förhandlingar med medlemsländerna i december 2023, får långtgående konsekvenser för utvecklingen av AI i Europa.
Lagens primära mål är att skydda grundläggande värden som demokrati, rättsstatsprincipen och miljömässig hållbarhet från de potentiella risker som ”hög-risk-AI” kan utgöra. Samtidigt syftar lagen till att positionera Europa som ledande inom AI-fältet genom att främja innovation. Den fastställer omfattande skyldigheter för AI-system baserat på deras potentiella risker och påverkansnivåer.
Enligt de nya reglerna kommer vissa AI-applikationer som utgör hot mot medborgarnas rättigheter att förbjudas. Detta inkluderar biometriska kategoriseringssystem som bygger på känsliga egenskaper, liksom oberäknad insamling av ansiktsbilder från internet eller CCTV-inspelningar för att skapa ansiktsigenkänningsdatabaser. Känslighetsigenkänning på arbetsplatser och skolor, social poängsättning, prediktivt polisarbete enbart baserat på profilering samt AI-system som manipulerar mänskligt beteende eller utnyttjar sårbarheter kommer också att förbjudas.
Vidare inför lagen specifika skyldigheter för andra hög-risk-AI-system som har potential att avsevärt skada hälsa, säkerhet, grundläggande rättigheter, miljön, demokratin och rättsstatsprincipen. Detta inkluderar AI som används inom kritisk infrastruktur, utbildning och yrkesutbildning, anställning samt nödvändiga privata och offentliga tjänster såsom vård och bankväsen. Sådana system kommer att behöva bedöma och minska risker, upprätthålla användningsloggar, säkerställa transparens och noggrannhet samt inkorporera mänsklig tillsyn.
En central bestämmelse i lagen är medborgarnas rätt att lämna klagomål om AI-system och få förklaringar till beslut som fattats av hög-risk-AI-system som påverkar deras rättigheter. Detta ger individer befogenhet och stärker ansvarsutkrävandet i utvecklingen och implementeringen av AI.
Lagen behandlar även allmänna syften AI (GPAI)-system och de modeller de baseras på. Dessa system måste uppfylla transparenskrav, inklusive överensstämmelse med EU:s upphovsrättslagstiftning och publicering av detaljerade sammanfattningar av innehållet som används för träningen. Dessutom kommer mer kraftfulla GPAI-modeller som utgör systemiska risker att ställas inför ytterligare krav, såsom modellutvärderingar, bedömning och minimering av systemiska risker samt rapportering om incidenter.
För att stödja innovation och små och medelstora företag (SMEs) planerar EU att etablera regleringslådor och tester i verkliga miljöer på nationell nivå. Dessa plattformar kommer att ge SMEs och start-ups möjligheten att utveckla och träna innovativa AI-lösningar innan de kommer ut på marknaden.
Enligt Brando Benifei, medföredragande i den interna marknadsutskottet, markerar den nya lagen en betydande milstolpe i skyddet av arbetstagarnas och medborgarnas rättigheter samtidigt som oacceptabla AI-praktiker förbjuds i Europa. Etableringen av AI-kontoret kommer ytterligare att stödja företag att följa förordningarna även innan de träder i kraft. Lagen placerar människor och europeiska värderingar i hjärtat av AI-utvecklingen.
Även om förordningen fortfarande ska genomgå en slutlig granskning av juridiska lingvister och kräver formellt godkännande från rådet, förväntas dess antagande ske före lagstiftningens slut. Lagen träder i kraft 20 dagar efter publiceringen i den officiella tidningen och blir fullt tillämplig 24 månader senare. Vissa bestämmelser, såsom förbud mot förbjudna metoder och praxisriktlinjer, kommer att implementeras tidigare. Regleringen av AI inom hälso- och sjukvården, ett område av stort intresse, fortsätter att vara ett diskussionsämne bland experter.
The source of the article is from the blog karacasanime.com.ve