Bekymringer om AI stiger blandt virksomheder
Et stigende antal virksomheder opfatter nu kunstig intelligens (AI) som en formidabel udfordring for cybersikkerhed. Denne opfattelse er markant ændret fra sidste år, hvor mindre end en fjerdedel delte denne bekymring. Store virksomheder er især mest forsigtige, ifølge en undersøgelse foretaget af ABN AMRO og forskningsbureauet MWM2, der involverede 895 organisationer.
Den stigende trussel fra AI-forøget social manipulation
AI-forbedringer forbedrer især taktikkerne for ‘social manipulation’, hvor manipulerende metoder bruges til at få fortrolige oplysninger ud af enkeltpersoner. Generativ AI har nu forenklet processen med at udarbejde phishing-e-mails ved at muliggøre hurtig oprettelse af elegante og fejlfrie meddelelser på ethvert valgt sprog. Denne teknologi har markant reduceret udviklingstiden for sådanne e-mails.
Deepfake-teknologier manipulerer virkeligheden
Trussellandskabet udvides yderligere til ‘deepfake’-teknologi, der er i stand til at generere realistisk audiovisuelt indhold, hvilket fører til bedrag som tilfældet, hvor en multinational virksomheds medarbejder i Hongkong overførte over $25 millioner på grund af en overbevisende deepfake af CFO’en. På samme måde blev der foretaget et forsøg på en medarbejder i det hollandske onlinebank Bunq ved hjælp af en AI-replika af dets administrerende direktør, Ali Niknam.
AI’s skiftende indflydelse på cybersikkerhed
Mens det britiske nationale center for cybersikkerhed (NCSC) fremhæver, at sofistikerede gerningsmænd vil drage fordel af disse teknologier, vil mindre kyndige cyberkriminelle ikke nødvendigvis opleve en eksponentiel stigning i deres ondsindede evner. Dog præsenterer generativ AI disse personer for en lettere vej til ondsindet programmering.
AI i virksomheders hænder
Organisationer, der bruger generative AI-baserede chatbots, risikerer også utilsigtede databrud, som Samsungs kodeudslipproblem gennem ChatGPT eksemplificerer. Desuden opstod der bekymringer, da flere ChatGPT-brugere rapporterede adgang til chat-historik fra andre konti, hvilket kaster lys over potentialet for lækage af træningsdata.
Udnyttelse af AI til cyberforsvar
Trods risiciene har AI også potentiale til at styrke cybersikkerheden. Det hjælper med at opdage mistænkelige netværksmønstre og forberede sig på fremtidige hændelser. Virksomheder bruger nu AI til at producere malware og phishing-e-mails med hensigten at træne detektionssystemer, hvilket gør AI til en vigtig del af cybersikkerhedsværktøjskassen.
AI’s rolle i at forstærke cybersikkerhedstrusler
Kunstig intelligens (AI) er blevet et kraftfuldt værktøj inden for cyberkriminalitet og fører til komplekse udfordringer inden for cybersikkerhed. Med AIs evne til at lære og tilpasse sig, er cybertrusler blevet mere sofistikerede og skaber en betydelig byrde for virksomheder med at opretholde robuste sikkerhedsforanstaltninger. AIs dobbelte kapaciteter betyder, at den både kan bruges til at forbedre sikkerhedsprotokoller og nedbryde dem, hvilket efterlader mange virksomheder i en konstant kamp for at være et skridt foran cyberkriminelle.
Nøglespørgsmål og svar
– Hvordan bidrager AI til stigningen i social manipulation-angreb? AI hjælper med at tilpasse overbevisende phishing-kommunikationer ved at generere personlige og kontekstuelle relevante meddelelser, hvilket gør det svært for modtagerne at identificere dem som ondsindede.
– Hvad er bekymringerne ved deepfake-teknologi? Deepfakes kan skabe realistisk audio- eller videoindhold, der efterligner personer, hvilket potentielt kan føre til svindel og misinformation.
– Kan mindre kyndige angribere bruge AI effektivt? Mens avancerede cyberkriminelle får stor gavn af AI, har selv dem med mindre færdigheder nu adgang til værktøjer, der gør det lettere at udføre sofistikerede angreb.
Nøgleudfordringer og kontroverser
– Nøjagtighed af AI-detektion: Mens AI hurtigt kan identificere potentielle sikkerhedstrusler, forbliver det en udfordring at adskille mellem harmløse og ondsindede aktiviteter med høj nøjagtighed.
– Afhængighed af data: Ydeevnen af AI-systemer inden for cybersikkerhed afhænger i høj grad af kvaliteten og mængden af de data, de er trænet på. Bias eller fejl i træningsdata kan underminere effektiviteten af AI-sikkerhedsforanstaltninger.
– Regulatoriske udfordringer: Den hurtige udvikling af AI udgør betydelige regulatoriske udfordringer, især med hensyn til at sikre etisk brug og forhindre misbrug af teknologien.
Fordele og ulemper ved AI i cybersikkerhed
– Fordele:
– AI kan behandle store mængder data for hurtigt at opdage anomalier og potentielle trusler.
– Maskinlæringsmodeller kan tilpasse sig udviklende cybertrusler over tid.
– Implementering af AI-drevne sikkerhedssystemer kan reducere arbejdsbyrden på menneskelige analytikere.
– Ulemper:
– AI-systemer kan være dyre at implementere og kræve specialiseret ekspertise.
– Cyberkriminelle kan også bruge AI til at udvikle og iværksætte potent angreb.
– Overrelians på AI kan føre til selvtilfredshed og en falsk følelse af sikkerhed, hvilket potentielt gør systemer mere sårbare.
For yderligere læsning om kunstig intelligens, bør du overveje at besøge følgende hoveddomæner:
– IBM AI
– DeepMind
– OpenAI
Disse domæner er anerkendte kilder til aktuelle fremskridt og forskning inden for AI-teknologi. De tilbyder indblik i de nyeste anvendelser af AI, herunder dets rolle i cybersikkerhed.
The source of the article is from the blog elperiodicodearanjuez.es