Kunstig intelligens (AI) er blevet et dobbeltsidet sværd inden for informationsteknologisikkerhed. Selv før udgivelsen af OpenAIs ChatGPT til offentligheden i november 2020, var AI allerede en kritisk del af cybersikkerhedsprodukter, ofte promoveret med buzzwords som “GenAI” (Generative AI) eller “ML” (Machine Learning). Imidlertid har cyberkriminelle ikke ligget stille. De anvender i stigende grad AI-teknikker til at forfine deres strategier og skabe avancerede cyberangreb.
Sikkerhedsfirmaer ser en stigning i uautoriseret brug af AI, herunder udvikling af ulovlige Large Language Models (LLM’er), som opererer uden de etiske begrænsninger, som platforme som ChatGPT har, og dermed er tilbøjelige til spamproduktion og andre skadelige aktiviteter. Ifølge Trend Micro havde cyberbander forsøgt at udvikle deres egne LLM’er, men skiftede fokus til at “jailbreake” de eksisterende for at omgå sikkerhedsforanstaltninger. Denne aktivitet er nået til et punkt, hvor de nu tilbyder “Jailbreaking-as-a-Service.”
David Sancho fra Trend Micro anerkendte, at udnyttelse af AI af cyberkriminelle går forud for den seneste AI-hype. Han nævnte, at diskussioner blandt cyberkriminelle i undergrundsfora følger generelle markedsudviklinger nøje. Desuden bliver eksisterende chatbots ofte genbrugt gennem såkaldte “wrapper services” for at opfylde kriminelle hensigter-eksempler inkluderer chatbots med truende navne som FraudGPT og DarkGPT–muligvis bliver brugt til bedragerisk aktivitet eller identitetstyveri.
Deepfake-teknologi udgør en af de største trusler, da den er i stand til at narre identitetsverifikation med blot ét stjålet dokument. Denne trussel blev understreget i en rapport af Bitdefender, som spurgte IT-sikkerhedsprofessionelle og fandt, at næsten alle ser udviklingen af AI som en alvorlig bekymring for deres organisationer. Der er dog forskel i tillidsniveauer på tværs af forskellige lande, når det kommer til at skelne mellem deepfakes og autentisk indhold.
Flertallet af virksomheder har endnu ikke inkorporeret AI i deres cybersikkerhedsstrategi, men Hornet Securitys AI-Security Report viser en øget bevidsthed om AI-trusler. Cirka 75% af dem, der blev spurgt af Hornet Security, mener, at AI vil blive mere betydningsfuld inden for cybersikkerhed inden for de næste fem år, hvor en tredjedel forventer en forbedring af deres sikkerhedstaktikker.
Brugen af AI-aktiverede værktøjer breder sig inden for områder som hændelsesrespons og malwareforsvar, hvilket antyder et mere beskyttet digitalt landskab i fremtiden. Mens der er tøven med at tro, at AI signifikant vil reducere manuelt arbejde for sikkerhedspersonale, er mange enige i, at AI kan hjælpe med at udfylde personalemæssige huller og forbedre eksisterende kapaciteter — især i sektorer med stor efterspørgsel efter IT-sikkerhedsekspertise. Cyberangreb styret af AI, såsom bots, der manipulerer online-reservationer med det formål at tjene penge, illustrerer de sofistikerede trusler, organisationer skal forberede sig på.
AIs stigende betydning inden for cybersikkerhed er afgørende for at forstå det udviklende landskab af globale digitale trusler. Her er yderligere fakta, spørgsmål, svar, diskussioner om centrale udfordringer og kontroverser og evaluering af fordelene og ulemperne ved “The Rising Threat of AI in Cybersecurity.”
AI-Drevet Trusselidentifikation: AI-teknologier som ML kan analysere store datasæt mere effektivt end mennesker, hvilket muliggør identifikation af sofistikerede cybertrusler ved at genkende mønstre, som måske går ubemærket hen af menneskelige analytikere.
Adaptiv Cyberangreb: Mens AI-teknologier udvikler sig, bliver cyberangreb også mere tilpassningsdygtige. For eksempel kan modstandere bruge AI til dynamisk at tilpasse phishing-e-mails for at blive mere overbevisende baseret på målets svar eller for at finde og udnytte sårbarheder i systemer langt hurtigere end før.
Sikkerhedspersonales Arbejdsbyrde: Mens AI kan automatisere visse cybersikkerhedsopgaver, kan denne teknologi også skabe mere arbejde for sikkerhedspersonale ved at generere falske positiver, der kræver manuel gennemgang. Denne store mængde af advarsler kan føre til advarselfatigue.
Centrale Kontroverser og Udfordringer: Et af de kontroversielle emner inden for AI til cybersikkerhed inkluderer de etiske implikationer af defensive og offensive AI-strategier. Med potentialet for, at AI kan udføre offensive cyberoperationer, er etiske diskussioner nødvendige for at afgrænse den ansvarlige brug af AI-teknologier i både regerings- og privatsektor-cybersikkerhedsbestræbelser.
Fordele:
– Automatisering af gentagne opgaver kan forbedre effektiviteten af cybersikkerhedspraksis.
– AI kan forbedre trusselsidentifikationsevner ved hurtigt at analysere massive mængder data.
– AI kan bidrage til at tackle IT-sikkerhedsfærdighedsafstanden ved at støtte overarbejdede sikkerhedspersonale.
Ulemper:
– Udvikling og implementering af effektive AI-baserede sikkerhedsløsninger kræver betydelige ressourcer og ekspertise.
– AI-cyberforsvarssystemer kan manipuleres eller omgås af sofistikerede modstandere.
– Demokratisering af AI kan tillade ondsindede aktører at bruge AI til skadelige aktiviteter.
Mest Vigtige Spørgsmål:
1. Hvordan kan vi sikre, at AI-teknologien forbliver i hænderne på ansvarlige parter?
2. Hvilke etiske rammer vil guide implementeringen af AI i offensive og defensive cyberoperationer?
3. Hvordan vil AI påvirke fremtidens joblandskab for cybersecurity-fagfolk?
Svar:
1. Gennem robuste internationale aftaler, reguleringer og etiske retningslinjer, sammen med avancerede cybersikkerhedsforanstaltninger for at beskytte AI-teknologier mod uautoriseret adgang.
2. Regeringer, organisationer og cybersikkerhedsfællesskabet skal samarbejde om at etablere etiske retningslinjer, der styrer anvendelsen af AI i cybersikkerhedsoperationer.
3. Mens AI vil automatisere visse opgaver inden for cybersikkerhed, vil det sandsynligvis også skabe nye roller fokuseret på udvikling, vedligeholdelse og tilsyn med AI-systemer.
For dem, der er interesserede i at udforske rollen af AI i cybersikkerhed fra et bredt perspektiv, kan følgende ressourcer være nyttige:
OpenAI
Trend Micro
Bitdefender
Hornet Security
De ovenstående links fører til de vigtigste domæner for de nævnte organisationer i artiklen, hvilket sikrer, at brugerne kan udforske emnet yderligere fra pålidelige og betydningsfulde bidragydere til cybersikkerhedsfællesskabet.