Italia går inn for å lovfeste kunstig intelligens med fokus på personvern og cybersikkerhet
Italia går inn i en ny æra med teknologisk lov etter at Ministerrådet godkjente et utkast til lov om kunstig intelligens (AI) den 23. april. Selv om det fortsatt er et foreløpig utkast, omfavner det reguleringsrammene for å balansere fordelene og risikoene ved nye teknologier.
Utkastet dekker viktige områder i sine 26 artikler, spesielt angående personvern og cybersikkerhet, og antyder dyptgripende endringer og fremskritt innen teknologistyring. Den endelige teksten blir ivrig ventet for en mer grundig analyse, men nøkkelpunktene kunngjort av regjeringen gir et innblikk i strukturen og implikasjonene.
Prinsipper for personvern i bruk av AI
Artikkel 4 i lovforslaget bygger på «formål og anvendelsesområde,» «definisjoner» og «generelle prinsipper» satt av de tre første artiklene, og integrerer personvernhensyn. Spesielt forventes det at bruk av AI i informasjonsbehandling respekterer mediefrihet og pluralisme, ytringsfrihet, og opprettholder objektivitet og rettferdighet i informasjonen.
AI-systemer må sikre lovlig, rettferdig og gjennomsiktig behandling av persondata. Videre skal kommunikasjon om databehandling knyttet til bruk av AI være klar og enkel, slik at brukerne fullt ut kan forstå, og om nødvendig, bestride behandlingen av sine persondata.
For mindreårige under 14 år kreves foreldreinngrep for tilgang til AI-teknologier, mens de mellom 14 og 18 år kan gi samtykke til behandling av persondata under forutsetning av at de har tilgang til lett forståelig informasjon.
Disse bestemmelsene er i tråd med europeiske personvernslover (GDPR), med vekt på åpenhet og speiler regelverk knyttet til tilgang til sosiale medier for mindreårige.
Cybersikkerhetstiltak i lovforslaget
Lovforslaget detaljerer prinsipper under artikkel 6 for å sikre cybersikkerheten knyttet til nasjonal sikkerhet. Det understrekes at AI-forskning, utvikling og bruk for formål knyttet til nasjonal sikkerhet må sikre nøyaktighet, pålitelighet, sikkerhet, egnethet og gjennomsiktighet. Vektleggingen av proporsjonal anvendelse av disse prinsippene avhengig av sektoren er en kritisk del av lovforslaget.
Artikkel 16 vurderer videre AI som en ressurs for å styrke nasjonal cybersikkerhet.
Et dobbelt styringssystem for regulering av AI
Et «dobbelt» styringssystem er tydelig i den brede lovgivningsrammen, slik det er skissert i artiklene og regjeringsuttalelsene. Utkastet etablerer fem hovedområder: nasjonal strategi, nasjonale myndigheter, promoteringstiltak, opphavsrettsbeskyttelse og strafferettslige sanksjoner. I tillegg er det etablert et regjeringsoppdrag for å tilpasse nasjonale lover med den kommende AI-loven og ber om AI-opplæringsprogrammer for borgere.
Den nasjonale strategien som er detaljert i artikkel 17, skal utarbeides og oppdateres av regjeringskontoret ansvarlig for teknologisk innovasjon og digital overgang, i samråd med de nasjonale AI-myndighetene, ACN (Nasjonalt cybersikkerhetsbyrå) og AgID (Byrået for digital Italia).
Mens personvernsmyndigheten i Italia forblir en rådgivende enhet, er styringen hovedsakelig lagt i hendene på de to byråene. ACN vil overvåke etterlevelse av AI-applikasjoner med inspeksjons- og sanksjonsmyndighet, mens AgID har ansvaret for å gjennomføre den nasjonale strategien, fremme AI-innovasjon og definere prosesser for evaluering, godkjenning og overvåking av AI-systemer.
Disse to myndighetene har en viktig rolle med å sikre at AI-teknologier følger både nasjonal og europeisk lovgivning. De vil sammen forvalte eksperimentelle områder for å utvikle AI-systemer i samsvar, under forutsetning av at de får positive tilbakemeldinger fra ministrene for «Laget i Italia» og Forsvaret.
Strategien har som mål å fremme nasjonalt samarbeid, innovasjon og et etisk rammeverk som veileder bruken av kunstig intelligens, og sikrer en balansert tilnærming til mulighetene og utfordringene som følger med denne voksende teknologien.
Nøkkelspørsmål og svar:
Spørsmål: Hva er de viktigste prinsippene angående personvern som er skissert i lovforslaget?
Svar: Lovforslaget krever at AI-systemer respekterer mediefrihet, ytringsfrihet, og sikrer objektivitet og rettferdighet i informasjonen. Det krever også lovlig, rettferdig og gjennomsiktig håndtering av persondata, med klar kommunikasjon om datahåndtering knyttet til bruk av AI.
Spørsmål: Hva er Italias tilnærming til cybersikkerhet i forbindelse med AI?
Svar: Lovforslaget inkluderer prinsipper for å sikre nøyaktighet, pålitelighet, sikkerhet, egnethet og gjennomsiktighet i AI-forskning, utvikling og bruk, spesielt for nasjonale sikkerhetsformål. Det ser også på AI som en ressurs for å forbedre nasjonal cybersikkerhet.
Spørsmål: Hvordan vil AI bli styrt i henhold til lovforslaget?
Svar: AI vil bli styrt av et dobbelt system som involverer det nasjonale cybersikkerhetsbyrået (ACN) og Byrået for Digital Italia (AgID), der ACN overvåker etterlevelse og AgID utfører den nasjonale strategien og fremmer AI-innovasjon.
Nøkkelutfordringer eller kontroverser:
En av de viktigste utfordringene er å balansere innovasjon med personvern og sikkerhet, noe som krever et rammeverk som ikke hindrer teknologiske fremskritt samtidig som man beskytter borgeres rettigheter. En annen kontrovers er å beskytte mot skjevhet og sikre objektivitet i AI-applikasjoner for å forhindre brudd på menneskerettigheter.
Fordeler:
– Øker tilliten til AI-applikasjoner ved å håndheve strenge regler for personvern og databeskyttelse.
– Støtter nasjonal sikkerhet gjennom strategisk bruk av AI.
– Fremmer åpenhet i AI-beslutningsprosesser, reduserer risikoen for urettferdige eller uetiske resultater.
Ulemper:
– Strenge forskrifter kan hemme innovasjon og konkurranseevnen i en raskt utviklende teknologisk sektor.
– Implementeringsutfordringer på grunn av kompleksiteten i AI og behovet for kontinuerlig oppdatering av lover og regler.
– Risiko for overregulering som kan føre til økte driftskostnader for AI-utviklere og bedrifter.
Italias regjering har tatt proaktive skritt for å skape et regelverk for AI som er i tråd med EU-politikk, inkludert den generelle databeskyttelsesforordningen (GDPR). Hvis du er interessert i å lære mer om EU’s tilnærming til regulering av AI, kan du vurdere å besøke den offisielle nettsiden til Den europeiske union ved å følge denne lenken.