De Europese Unie heeft significante richtlijnen uiteengezet in de vorm van een ontwerpverordening die tot doel heeft het gebruik van kunstmatige intelligentie (AI) te reguleren. Deze richtlijnen bieden specifieke beschermingen met betrekking tot het algemene gebruik van AI-technologieën. Beschouwd als een baanbrekend document in vergelijking met andere op mondiaal niveau, schetst deze ontwerpverordening de toekomst van de toepassing van AI binnen het Europese blok.
De voorgestelde regels voeren strenge beperkingen in voor biometrische identificatiesystemen die worden gebruikt door wetshandhavingsinstanties. De noodzaak van dergelijke regelgeving heeft urgentie gekregen doordat databases met gezichtsafbeeldingen exponentieel zijn gegroeid. Het ontwerp eist dat gezichtsherkenning en vergelijkbare technologieën voldoen aan minimale normen ter bescherming van individuele rechten.
Een ander cruciaal punt betreft het verbod op het gebruik van AI voor kredietbeoordeling en het misbruik maken van gebruikerskwetsbaarheden. Dit versterkt eerdere standpunten van gegevensbeschermingsautoriteiten dat fysieke goedkeuring verplicht is naast elke op AI gebaseerde kredietbeoordeling.
Ook consumentenrechten zijn een focuspunt, met bepalingen die stellen dat individuen het recht hebben om klachten in te dienen en uitleg te vragen over door AI beïnvloede beslissingen die hen raken. Bovendien is elke AI-toepassing die de rechten van burgers bedreigt, zoals die welke individuen onterecht zouden kunnen categoriseren voor beloning of straf, uitdrukkelijk verboden.
In het domein van surveillancetechnologie op de werkplek verbiedt de ontwerpverordening uitdrukkelijk AI-toepassingen die emotioneel gedrag evalueren, waarmee een duidelijke grens wordt gesteld aan de privacy van werknemers.
Het gebruik van AI door wetshandhavingsinstanties is niet volledig verboden; er zijn strikte waarborgen opgenomen om toepassingen toe te staan bij het opsporen van vermiste personen of het voorkomen van terroristische dreigingen.
Tot slot wordt de naleving van intellectuele eigendomsrechten benadrukt, waarbij wordt voorgeschreven dat AI geen inbreuk mag maken op auteursrechten – een principe dat tot nu toe vaak over het hoofd werd gezien.
Deze ontwerpverordening, bedoeld om AI-regels binnen de EU te harmoniseren, wacht op formele actie en definitieve goedkeuring door de Raad van Europa. Na het doorlopen van deze stappen wordt verwacht dat deze officieel wordt vóór de volgende verkiezingen voor het Europees Parlement, wat een belangrijke vooruitgang betekent in de governance van AI.