En nylig undersøkelse utført av AI Impacts avslører at en betydelig andel av maskinlæringsforskere mener det er en signifikant risiko for menneskehetens utryddelse som følge av utviklingen av avanserte AI-systemer. Undersøkelsen, som er en oppfølging til en kontroversiell studie fra 2016, avdekket at mellom 37,8% og 51,4% av respondentene ga minst 10% sannsynlighet for at AI kan føre til resultater så katastrofale som menneskehetens utryddelse.
Resultatene utfordrer de gjeldende narrativene rundt risikoen for utryddelse fra AI. Forskerne som ble undersøkt, delte seg ikke enkelt inn i pessimistiske eller optimistiske kategorier, til tross for populære oppfatninger. Mange av de som erkjente potensialet for negative konsekvenser, erkjente også muligheten for positive resultater. Bemerkelsesverdig nok trodde 57,8% av respondentene at ekstremt negative scenarier, som menneskehetens utryddelse, hadde en sannsynlighet på minst 5%.
Kritikere av undersøkelsen fra 2016 hadde stilt spørsmål ved validiteten av funnene og antydet at forskerne kunne ha påvirket resultatene eller at visse eksperter ikke hadde vurdert saken tilstrekkelig. Imidlertid, da AI Impacts kjørte undersøkelsen på nytt i 2022 og kontaktet tusenvis av maskinlæringsforskere, oppnådde de lignende resultater. Den mediane sannsynligheten for en «ekstremt dårlig» utfall, som menneskehetens utryddelse, forble på 5%. Videre, når spørsmålet ble tilnærmet fra ulike vinkler for å begrense innrammingseffekter, falt svarene konsekvent innenfor 5-10% området, noe som styrker tilliten til dataene.
Disse funnene understreker de økende bekymringene knyttet til potensielle risikoer forbundet med utviklingen av avansert AI-teknologi. Ettersom AI-systemer fortsetter å utvikle seg og selskaper investerer betydelige ressurser i utviklingen, virker ikke lenger tanken på at AI på menneskenivå kan føre til resultater så alvorlige som menneskehetens utryddelse fjern. Det er nå avgjørende for eksperter på området å utforske og adressere disse risikoene ytterligere, og å fremme en bredere samtale for å avgjøre den beste handlingsplanen for å redusere potensiell skade.
The source of the article is from the blog regiozottegem.be