En nylig rapport, bestilt af det amerikanske udenrigsministerium, har rejst alvorlige bekymringer om de potentielle nationale sikkerhedsrisici forbundet med den hastigt udviklende kunstige intelligens (AI). Rapporten, udført af Gladstone AI, understreger det presserende behov for indgriben fra forbundsregeringen for at undgå potentiel katastrofe.
Rapportens resultater var et resultat af over et års forskning, herunder interviews med mere end 200 personer, herunder topchefer fra førende AI-virksomheder, cybersikkerhedsforskere, eksperter inden for masseødelæggelsesvåben og nationale sikkerhedsembedsmænd. Rapporten fastslår direkte, at avancerede AI-systemer i et værste scenarie kan udgøre en “udryddelsesniveau-trussel mod den menneskelige art.”
Mens det amerikanske udenrigsministerium ikke kommenterede rapporten, fungerer dens advarsel som en påmindelse om, at ved siden af de potentielle fordele ved AI er der også reelle og betydelige farer. AI har potentiale til at revolutionere forskellige sektorer, fra sundhedsvæsen til videnskabelige opdagelser, men det medfører også alvorlige risici, der skal anerkendes og håndteres.
Jeremie Harris, administrerende direktør og medstifter af Gladstone AI, understregede behovet for opmærksomhed og forsigtighed og udtalte, “Over en vis kapacitetstærskel kan AIs potentielt blive ukontrollerbare.” Denne holdning støttes af empirisk forskning og analyse præsenteret på førende AI-konferencer, hvilket understreger, at der er et voksende bevisgrundlag for at støtte de bekymringer, der rejses i rapporten.
Rapporten adresserer også de foranstaltninger, som den amerikanske regering har truffet for at håndtere risiciene forbundet med AI. Det Hvide Hus’ talsperson, Robyn Patterson, roste præsident Joe Bidens udførte executive order om AI som et betydeligt skridt og udtrykte administrationens forpligtelse til at samarbejde med internationale partnere og opfordre Kongressen til at vedtage lovgivning for at tackle disse risici.
Rapporten beskriver specifikt to store farer, som AI udgør. For det første kan de avancerede AI-systemer potentielt blive gjort til våben, hvilket kan føre til uoprettelig skade. For det andet er der bekymring for, at AI-laboratorier kan miste kontrollen over de systemer, de udvikler, hvilket kan have ødelæggende konsekvenser for den globale sikkerhed. Rapporten sammenligner AI’s opkomst med indførelsen af kernevåben og advarer om potentielle konflikter, en våbenkapløb og fatale ulykker.
For at imødegå disse trusler kræver Gladstone AI’s rapport oprettelsen af en ny AI-agentur, implementeringen af nødsreguleringsforanstaltninger og begrænsninger for mængden af computerkraft, der bruges til at træne AI-modeller. Forfatterne understreger det klare og presserende behov for, at den amerikanske regering handler for at tackle disse risici.
Det er vigtigt at bemærke, at mens rapporten blev udarbejdet for udenrigsministeriet, afspejler de fremsatte synspunkter ikke nødvendigvis agenturets eller den bredere amerikanske regerings holdninger.
Midt i de sikkerhedsmæssige bekymringer, som rapporten rejser, delte Gladstone AI’s administrerende direktør Jeremie Harris, at deres team havde usædvanlig adgang til embedsmænd både i den offentlige og private sektor, hvilket bidrog til de alarmerende konklusioner. Rapporten citerer samtaler med tekniske og ledelsesteams fra prominente AI-virksomheder som OpenAI, Google DeepMind, Facebook Meta og Anthropic.
Samlet set kaster rapportens resultater lys over de presserende nationale sikkerhedsrisici, der er forbundet med den avancerende AI-teknologi. Vigtigheden af indgriben og implementeringen af sikkerhedsforanstaltninger kan ikke overvurderes. Da AI fortsætter med at udvikle sig, er det afgørende, at der træffes proaktive foranstaltninger for at sikre en ansvarlig udvikling og implementering. Stakes er høje, og tiden til at handle er nu.
FAQ
The source of the article is from the blog publicsectortravel.org.uk