En nyligen genomförd undersökning av AI Impacts avslöjar att en betydande del av maskininlärningsforskare tror att det finns en signifikant risk för att mänskligheten utrotas som en följd av utvecklingen av avancerade AI-system. Undersökningen, som följer upp en kontroversiell studie från 2016, visade att mellan 37,8% och 51,4% av respondenterna gav minst 10% chans för att AI skulle leda till katastrofala utfall som människans utrotning.
Resultaten utmanar de rådande uppfattningarna om riskerna för utrotning genom AI. Till skillnad från den allmänna tron föll forskarna som deltog i undersökningen inte entydigt in i pessimistiska eller optimistiska kategorier. Istället erkände många personer som insåg möjligheten till negativa resultat också möjligheten till positiva resultat. Anmärkningsvärt var att 57,8% av respondenterna ansåg att extremt negativa scenarier, som mänsklighetens utrotning, hade en sannolikhet på minst 5%.
Kritiker av undersökningen från 2016 ifrågasatte giltigheten av resultaten och föreslog att forskarna möjligtvis kunde ha påverkat resultaten eller att vissa experter inte hade givit frågan tillräcklig eftertanke. Men när AI Impacts genomförde om undersökningen år 2022 och kontaktade tusentals maskininlärningsforskare, erhöll de liknande resultat. Medianen för sannolikheten för ett ”mycket dåligt” utfall, som mänsklighetens utrotning, låg fortfarande på 5%. Dessutom, när frågan hanterades ur olika perspektiv för att minska ramverkningseffekter, föll svaren konsekvent inom 5-10% området, vilket stärkte förtroendet för datan.
Dessa resultat belyser de ökande farhågorna kring de potentiella riskerna med utvecklingen av avancerad AI-teknik. I takt med att AI-system fortsätter att utvecklas och företag investerar betydande resurser i deras utveckling, verkar inte möjligheten att AI på mänsklig nivå kan leda till lika allvarliga utfall som mänsklighetens utrotning längre otänkbart. Det är nu avgörande för experter inom området att ytterligare utforska och hantera dessa risker, främja en bredare diskussion för att fastställa bästa åtgärder för att mildra eventuell skada.
The source of the article is from the blog be3.sk
