Et flertal af virksomheder betragter fremskridt inden for kunstig intelligens (AI) som en trussel mod cybersikkerheden, en markant stigning sammenlignet med året før. Denne nye bekymring er særlig udtalt blandt større virksomheder. Disse fund stammer fra en undersøgelse udført af ABN Amro og forskningsinstituttet MWM2, som omfattede 895 organisationer.
Inden for ‘social engineering’ – hvor enkeltpersoner psykologisk manipuleres til at afsløre fortrolige oplysninger eller udføre skadelige handlinger – er det især, at AI bliver bekymrende. AI-teknologier forbedrer muligheden for at bedrage på mere sofistikerede måder. For eksempel kan generativ AI ubesværet skabe bedrageriske e-mails og dermed forenkle phishing-processen, hvilket kunne føre til hyppigere og mere målrettede cyberangreb. IBM X-Force-forskning bemærker, at generativ AI reducerer tiden, der kræves til at udforme phishing-e-mails, fra timer til få minutter.
Derudover implementeres samtalebaserede AI-systemer til at udføre automatiske samtaler, der kan udtrække følsomme login-oplysninger eller iværksætte økonomiske transaktioner. Desuden tager ‘deepfake’-teknologien skridtet videre ved at fabrikere lyd- eller visuelt materiale så ægte, at de let kan narre ofrene til at tro, at de interagerer med en betroet kontakt, når de i virkeligheden er i kontakt med en bedrager. Fremkomsten af så overbevisende AI-drevne bedragelige værktøjer har fået alarmklokkerne til at ringe inden for cybersikkerhedslandskabet og viser, at jo mere avanceret kunstig intelligens bliver, desto mere dystre og udfordrende bliver de trusler, den udgør.
Bekymringer vedrørende Cybersecurity med AI: Som AI bliver mere sofistikeret, kan den udnyttes af cyberkriminelle til at udføre mere effektive og skadelige angreb. Nogle centrale spørgsmål og svar relateret til disse bekymringer omfatter:
Spørgsmål: Hvordan forværrer AI cybersikkerhedstruslerne?
Svar: AI kan automatisere og optimere udførelsen af cyberangreb, hvilket gør dem mere effektive og svære at opdage. For eksempel kan det muliggøre hurtig oprettelse af phishing-e-mails, tilpasse angreb ved hjælp af maskinlæring for at omgå sikkerhedssystemer eller producere meget overbevisende deepfakes til social engineering-formål.
Spørgsmål: Hvad er udfordringerne ved at bruge AI til cybersikkerhedsforsvar?
Svar: Mens AI tilbyder forbedrede trusselsdetektions- og reaktionsevner, bringer den også udfordringer såsom behovet for store datasæt til træning, risikoen for, at AI-systemer narres eller undgås af tilpasningsdygtige modstandere og sikring af, at AI-systemer ikke overtræder privatlivets fred eller etiske retningslinjer.
Centrale udfordringer eller kontroverser:
– Etiske implikationer: Potentialet for misbrug af AI til skadelige formål rejser etiske bekymringer om udvikling og implementering af AI-teknologier.
– Privatliv: AI-systemer, der behandler persondata til cybersikkerhedsformål, rejser privatlivsudfordringer og kan føre til risikoen for databrud eller misbrug af følsomme oplysninger.
– Ansvar: At fastslå ansvar for handlinger udført af AI-systemer, især i tilfælde af en sikkerhedsbrist, kan være kontroversielt og komplekst.
Fordele og ulemper:
– Fordele: AI kan markant forbedre cybersikkerheden via automatiseret trusselsdetektion, hurtig reaktion på hændelser og forudsigende analyser for at forudse fremtidige trusler.
– Ulemper: AI’s afhængighed af store datasæt kan føre til privatlivsproblemer, og hvis ikke det håndteres korrekt, kan AI-systemer introducere nye sårbarheder eller bias, som kan udnyttes af modstandere.
For yderligere information og indsigt i AI og cybersikkerhed, henvises der til anerkendte organisationer og forskningsgrupper, der fokuserer på cybersikkerhed, såsom:
– Cyber- og Infrastruktur-sikkerhedsagenturet (CISA): CISA
– Det Nationale Institut for Standarder og Teknologi (NIST): NIST
– EU’s Agentur for Cybersikkerhed (ENISA): ENISA
– Den Internationale Forening for Kryptologisk Forskning (IACR): IACR
Når man implementerer AI i cybersikkerhed, er det afgørende at afveje innovation med forsigtighed for at sikre, at fremskridt udnyttes ansvarligt og ikke utilsigtet skaber yderligere risici.
The source of the article is from the blog radiohotmusic.it