Den Europæiske Union baner vejen med en enstemmig godkendelse af Artificial Intelligence (AI) Act af den Europæiske Råd, som markerer indførelsen af verdens første juridiske ramme for udvikling, markedsintroduktion og anvendelse af AI inden for Europa.
Dette lovgivningsmæssige milepæl fastlægger ansvar for AI-systemleverandører og udviklere i overensstemmelse med de vurderede risikoniveauer. Systemer med minimal risiko er underlagt lette gennemsigtighedsforpligtelser, mens AI-systemer med høj risiko vil få markedsadgang, men med strenge reguleringskrav.
Specifikt vil den Europæiske Union forbyde ansøgninger om AI, der anses for at være for risikable, såsom dem, der muliggør kognitiv manipulation og social scoring, hvilket kan krænke individuelle friheder. Lovgivningen forbyder også AI-teknologier, der anvendes til forudsigende politiarbejde og algoritmer, der udnytter biometriske data til at kategorisere individer efter race, religion eller seksuel orientering.
Belgiske statssekretær for digitalisering Mathieu Michel bifaldt dette skridt og anerkendte AI Act som en betydelig fremskridt for EU—en historisk lov, der imødegår en global tech-udfordring samtidig med at den åbner muligheder for samfundet og økonomien. Lovgivningen understreger vigtigheden af tillid, gennemsigtighed og ansvarlighed i håndteringen af fremvoksende teknologier med det formål at fremme et miljø, der er gunstigt for innovation i Europa.
AI Act introducerer også bestemmelser for generativ AI, hvilket giver et foreløbigt svar på udbredelsen af systemer som ChatGPT. Den differentierer AI-modeller baseret på systemrisiko, hvor de, der ikke udgør nogen risiko, har færre forpligtelser, og dem med høj risiko er bundet af skrappere regler.
For at sikre effektiv håndhævelse vil EU etablere adskillige styrende organer, herunder et AI-kontor inden for Kommissionen, en videnskabelig panel af uafhængige eksperter til modstridende udfordringer, et AI-udvalg med repræsentanter fra medlemslandene og et rådgivende forum for interessenter til at yde ekspertise.
Undtagelser i specifikke omstændigheder vil tillade retshåndhævelse at bruge biometriske identifikationssystemer, såsom når man leder efter savnede personer eller forhindrer terrorisme, såfremt der er strenge sikkerhedsforanstaltninger og godkendelse.
Sanktioner for manglende overholdelse af AI-loven kunne være betydelige, med en minimumsstraf på 7,5 millioner euro eller 1,5% af virksomhedens årlige globale omsætning til så meget som 35 millioner euro eller 7% af omsætningen. Små og mellemstore virksomheder (SME’er) og startups vil blive pålagt administrative bøder i forhold til deres størrelse.
Før højrisiko-AI-systemer implementeres af offentlige tjenesteudbydere, er der en forudsætning for at vurdere den potentielle indvirkning på grundlæggende rettigheder. Derudover kræves der større gennemsigtighed i udviklingen og implementeringen af sådanne systemer, der skal registreres i EU’s database.
EU-lande forventes at etablere nationale eksperimentelle reguleringsmiljøer (“sandkasser”) for at tillade SME’er og startups at udvikle og træne innovative AI-systemer inden markedsføring.
AI Act vil træde i kraft tyve dage efter offentliggørelsen i EU’s officielle tidsskrift. Denne banebrydende forordning vil være gældende to år efter dens ikrafttræden, hvor visse bestemmelser, såsom forbud og kontroller af generelle formål-AI-systemer, træder i kraft tidligere.
Vigtige spørgsmål og svar:
Hvad driver EU til at etablere AI Act?
Etableringen af AI Act drives af behovet for at imødekomme de etiske, juridiske og tekniske udfordringer, som den hurtige udvikling og implementering af AI-teknologier medfører. Målet er at sikre, at AI-systemer er sikre, gennemsigtige og respekterer grundlæggende rettigheder.
Hvad er nogle af de centrale udfordringer og kontroverser forbundet med AI Act?
Centrale udfordringer inkluderer operationalisering af det reguleringsmæssige rammeværk, sikre at det følger med teknologiske fremskridt og afvejer innovation mod etiske overvejelser. Kontroverser kan opstå over definitionen af, hvad der udgør højrisiko-AI, fortolkningen af undtagelserne for retshåndhævelsesbrug og håndhævelse af overholdelse på tværs af forskellige brancher.
Hvad er fordelene og ulemperne ved dette reguleringsmæssige rammeværk?
Fordelene:
– Fremmer etisk brug af AI og respekterer grundlæggende rettigheder.
– Opfordrer til gennemsigtighed og ansvarlighed fra AI-systemleverandører.
– Forhindrer implementering af AI-applikationer, der kunne skade samfundet.
– Kan inspirere en global tilgang til AI-regulering.
Ulemper:
– Kunne hæmme AI-innovation og udvikling, hvis reglerne er for restriktive.
– Potentiale for reguleringsfragmentering, hvis individuelle EU-medlemslande divergerer.
– Overholdelsesomkostninger for virksomheder, især SME’er, på trods af bestemmelse om mindre strenge straffe.
Foreslåede relaterede links:
– Den Europæiske Union
– EU’s digitale strategi
Bemærk venligst, at URL’erne til hoveddomænerne er blevet kontrolleret og er gyldige links til Den Europæiske Unions webside og EU’s digitale strategiressourcer.