Den potentielt ødelæggende virkning af falsk og vildledende information, som bliver forstærket af avanceret kunstig intelligens (AI), er blevet identificeret som den største risiko for verdensøkonomien, ifølge World Economic Forums seneste rapport om globale risici.
Udgivet onsdag fremhæver “Global Risks Report 2024” farerne ved AI-genereret misinformation og desinformation og rangerer dem som mere betydelige risici end klimaforandringer, krig og økonomisk svækkelse på listen over de 10 største risici i de kommende to år. Rapporten, der undersøger eksperter, industriledere og politikere, viser, hvordan teknologiske fremskridt forværrer eksisterende problemer og skaber nye.
Især AI-chatbots som ChatGPT, der er i stand til at generere sofistikeret syntetisk indhold, der manipulerer personer uden hensyn til deres ekspertise, vækker bekymring. Rapporten understreger det presserende behov for at løse dette problem, især da flere lande bevæger sig mod valg de kommende år. Evnen til at udnytte AI til deepfakes og storskala misinformation kan yderligere opdele samfund og underminere demokratiske processer.
Risikostyringsleder Carolina Klint fra Marsh advarer om, at AI-gennembrud vil forstyrre risikoudsigten for organisationer, hvor mange har svært ved at reagere på trusler fra misinformation, intermediation og strategisk fejlvurdering. Det er afgørende at opbygge modstandsdygtighed på organisatorisk, nationalt og internationalt niveau samt fremme større samarbejde mellem offentlige og private sektorer for at navigere i dette hurtigt udviklende risikolandskab.
Udover misinformation frembyder AI også bekymringer inden for cybersikkerhed. Automatiseringen af phishing-forsøg og oprettelsen af avanceret malware faciliteres af AI, hvilket øger risikoen for cyberangreb. Desuden kan AI fastholde fordomme ved at forurene dataene, der bruges til at træne andre AI-systemer, hvilket gør det utroligt udfordrende at vende virkningerne om.
Konsekvenserne af AI-drevet misinformation og desinformation strækker sig ud over social polarisering og opdeling af samfundet. Falsk information kan bruges til at så tvivl om legitimiteten af valgte regeringer og dermed føre til erosion af demokratiske processer. Risiciene strækker sig også til cyberangreb, da selv personer med begrænset ekspertise kan udnytte AI til at udføre skadelige aktiviteter.
Disse alvorlige risici, der er identificeret i rapporten “Global Risks Report 2024”, vil blive drøftet på de kommende Davos-møder, hvor ledere fra teknologivirksomheder og AI-industrien vil være til stede. Det er afgørende at tackle disse risici kollektivt og proaktivt for at beskytte verdensøkonomien og sikre en ansvarlig udvikling og implementering af AI-teknologier.
The source of the article is from the blog xn--campiahoy-p6a.es