De Europese wetgeving heeft een belangrijke stap gezet naar het vormgeven van de toekomst van kunstmatige intelligentie. In een historische zet heeft het Europees Parlement onlangs de baanbrekende Wetgeving voor Kunstmatige Intelligentie goedgekeurd. Deze wetgeving, die tot doel heeft veiligheid te waarborgen, fundamentele rechten te beschermen en innovatie in de AI-branche te bevorderen, heeft aanzienlijke steun gekregen.
Met “523 stemmen voor, 46 tegen en 49 onthoudingen hebben we officieel ’s werelds eerste bindende wet inzake kunstmatige intelligentie ingesteld,” merkte Brando Benifei, mederapporteur van de Interne Marktcommissie op. Hij voegde eraan toe: “Onaanvaardbare AI-praktijken zullen in Europa worden verboden en de rechten van werknemers en burgers zullen worden beschermd. We hebben ervoor gezorgd dat mensen en Europese waarden in het hart van de ontwikkeling van AI blijven staan.”
De Wetgeving voor Kunstmatige Intelligentie is ontworpen om essentiële elementen zoals democratie, de rechtsstaat en milieuduurzaamheid te beschermen tegen de potentiële risico’s die met AI samenhangen. Tegelijkertijd heeft het tot doel innovatie te stimuleren en Europa te positioneren als een voorloper in dit snel evoluerende veld. Door verplichtingen op te leggen op basis van de risico’s en impactpotentie van AI, streeft de regelgeving naar een cruciaal evenwicht.
Een opmerkelijk aspect van de wet is het verbod op bepaalde AI-toepassingen die inbreuk maken op de rechten van burgers. Specifieke voorbeelden van verboden toepassingen zijn onder meer het gebruik van biometrische categorisatiesystemen op basis van gevoelige kenmerken, het schrapen van gezichtsafbeeldingen van internet of CCTV-beelden om gezichtsherkenningdatabases te maken, het gebruiken van emotieherkenning, sociale scoring, voorspellende politie en AI die menselijk gedrag manipuleert of kwetsbaarheden exploiteert.
Hoewel het parlement deze verboden heeft ingevoerd, heeft het ook uitzonderingen voor wetshandhaving geboden onder bepaalde omstandigheden. Biometrische identificatiesystemen (RBI) mogen door wetshandhaving worden gebruikt in nauw omschreven situaties, mits strikte waarborgen worden gevolgd. Het gebruik van real-time RBI is onderworpen aan tijdelijke en geografische beperkingen en vereist voorafgaande gerechtelijke of administratieve autorisatie. RBI achteraf vereist daarentegen gerechtelijke autorisatie en moet gekoppeld zijn aan een strafbaar feit.
Bovendien behandelt de regelgeving de verplichtingen van hoogrisico-AI-systemen die een impact hebben op kritieke sectoren zoals infrastructuurbeheer, onderwijs, tewerkstelling, gezondheidszorg, rechtshandhaving, migratie- en grensbeheer, justitie, en democratische processen. Dergelijke systemen moeten de risico’s beoordelen en mitigeren, gebruikslogs bijhouden, transparantie en nauwkeurigheid garanderen, en menselijk toezicht integreren. Burgers hebben het recht om klachten in te dienen over AI-systemen en uitleg te krijgen over beslissingen die zijn genomen door hoogrisico-AI-systemen die hun rechten beïnvloeden.
Transparantie is een cruciaal aspect van de Wetgeving voor Kunstmatige Intelligentie, met name met betrekking tot algemeen nut AI (GPAI) systemen. Deze systemen, evenals de GPAI-modellen waarop ze zijn gebaseerd, moeten voldoen aan het EU-auteursrecht en gedetailleerde samenvattingen verstrekken van de gebruikte inhoud voor de training. Bovendien zullen krachtigere GPAI-modellen, die systemische risico’s kunnen vormen, aanvullende vereisten krijgen zoals modelbeoordelingen, risicobeoordeling en -mitigerende maatregelen, en incidentenrapportage. Bovendien moeten kunstmatige of gemanipuleerde afbeeldingen, audio- of videomateriaal, algemeen bekend als “deepfakes,” duidelijk worden gelabeld als zodanig.
Met oog voor het belang van het stimuleren van innovatie heeft het Europees Parlement opgeroepen tot de oprichting van regulerende zandbakken en tests in de echte wereld op nationaal niveau. Deze initiatieven zullen toegankelijk worden gemaakt voor kleine en middelgrote ondernemingen (KMO’s) en startups, waardoor de ontwikkeling en training van innovatieve AI-oplossingen vóór hun lancering op de markt worden gefaciliteerd.
De goedkeuring van de Europese Wetgeving voor Kunstmatige Intelligentie markeert een belangrijk keerpunt in de regulering en het gebruik van AI. Het zet de toon voor een toekomst waarin innovatie gedijt, terwijl wordt gewaarborgd dat AI fundamentele rechten respecteert en het welzijn van individuen beschermt. Met deze baanbrekende wetgeving zet Europa een gedurfde stap naar het leiden van de wereld in verantwoorde en ethische kunstmatige intelligentie.
FAQ
Wat is het doel van de Wetgeving voor Kunstmatige Intelligentie?
De Wetgeving voor Kunstmatige Intelligentie heeft tot doel veiligheid te waarborgen, fundamentele rechten te beschermen, innovatie te stimuleren en Europa als leider in het veld van kunstmatige intelligentie te positioneren.
Welke zijn enkele van de verboden toepassingen volgens de regelgeving?
De regelgeving verbiedt bepaalde AI-toepassingen, waaronder biometrische categorisatiesystemen op basis van gevoelige kenmerken, niet-gerichte schraapbewerkingen van gezichtsafbeeldingen, emotieherkenning op de werkvloer en scholen, sociale score, voorspellende politie op basis van profiling, en AI die menselijk gedrag manipuleert of kwetsbaarheden misbruikt.
Zijn er vrijstellingen voor wetshandhaving?
Wetshandhaving krijgt vrijstellingen in beperkte en gedefinieerde situaties. Het gebruik van biometrische identificatiesystemen door wetshandhaving is toegestaan, met strikte waarborgen en autorisaties.
Welke verplichtingen hebben hoogrisico AI-systemen?
Hoogrisico AI-systemen die worden gebruikt in kritieke sectoren moeten risico’s beoordelen en mitigeren, gebruikslogs bijhouden, transparantie en nauwkeurigheid waarborgen, en menselijk toezicht integreren. Burgers hebben het recht om klachten in te dienen en uitleg te ontvangen over beslissingen die zijn genomen door hoogrisico AI-systemen die hun rechten beïnvloeden.
Welke transparantievereisten zijn van toepassing op AI-systemen?
Algemeen nut AI-systemen en de modellen waarop ze zijn gebaseerd moeten voldoen aan het EU-auteursrecht en gedetailleerde samenvattingen verstrekken van de training inhoud. Krachtigere modellen die systemische risico’s met zich meebrengen, zullen aanvullende vereisten krijgen voor evaluatie, risicobeoordeling, mitigatie en incidentenrapportage.
Hoe zal innovatie worden ondersteund onder de Wetgeving voor Kunstmatige Intelligentie?
Het Europees Parlement roept op tot de oprichting van regulerende zandbakken en tests in de echte wereld op nationaal niveau. Deze initiatieven zullen toegankelijk zijn voor kleine en middelgrote ondernemingen (KMO’s) en startups, waardoor ze innovatieve AI-oplossingen kunnen ontwikkelen en trainen vóór hun marktintroductie.
The source of the article is from the blog macnifico.pt