In een recent onderzoek is AI’s potentieel om ofwel een ramp teweeg te brengen of een “onherstelbare instorting” te veroorzaken, onderwerp van veel discussie geweest. Maar waarom hebben experts en superforecasters zulke uiteenlopende standpunten? Een baanbrekende studie heeft geprobeerd de redenen achter deze verschillen bloot te leggen.
De studie, uitgevoerd door het Instituut voor Voorspellingsonderzoek, betrok experts op het gebied van AI en andere existentiële risico’s, evenals “superforecasters” met een bewezen staat van dienst in het nauwkeurig voorspellen van wereldgebeurtenissen. De onderzoekers vroegen beide groepen om het gevaar beoordeeld door AI te evalueren.
Interessant genoeg onthulden de resultaten een scherp contrast tussen de twee groepen. De experts toonden veel meer bezorgdheid en wezen aanzienlijk hogere kansen toe aan de mogelijkheid van een ramp dan de superforecasters.
Om dieper in te gaan op de redenen voor dit diepe meningsverschil, organiseerden de auteurs een “contradictorische samenwerking.” Ze lieten experts en superforecasters uitgebreid de tijd besteden aan het lezen van nieuwe materialen en in discussie gaan met individuen van tegenovergestelde standpunten, gefaciliteerd door een moderator. Het doel was om te bepalen of blootstelling aan nieuwe informatie en tegenargumenten de overtuigingen van beide groepen zou beïnvloeden.
Bovendien streefden de onderzoekers ernaar de cruciale kwesties te identificeren die de meningen van mensen potentieel zouden kunnen veranderen. Een van die kernkwesties was de vraag of een AI-beoordelaar bewijs zou vinden dat AI in staat was tot autonome replicatie, het verkrijgen van middelen en het ontwijken van uitschakeling vóór 2030. Skeptici betoogden dat een positief antwoord op deze vraag hun bezorgdheid zou vergroten, terwijl AI-pessimisten volhielden dat een negatief antwoord hen minder angstig zou maken.
Leidde deze gezamenlijke inspanning tot een convergentie van meningen? Het antwoord is nee. Beide groepen bleven relatief onveranderd in hun beoordeling van de waarschijnlijkheid van een ramp. De AI-pessimisten pasten hun kansen iets naar beneden aan, terwijl de optimisten een minuscule opwaartse aanpassing maakten. Niettemin verschafte de studie fascinerende inzichten in de oorsprong van deze uiteenlopende standpunten.
Het onderzoek richtte zich met name op meningsverschillen rond het potentieel van AI om ofwel de mensheid uit te roeien of een onherstelbare ineenstorting van de samenleving te veroorzaken, waarbij de mondiale BBP daalt tot onder de $1 biljoen of de mondiale bevolking afneemt tot minder dan 1 miljoen gedurende een lange periode. Hoewel er talloze andere risico’s zijn verbonden aan AI, koos de studie ervoor zich te concentreren op deze extreme, existentiële scenario’s.
Interessant genoeg kwamen de verschillende meningen niet voort uit variaties in de toegang tot informatie of blootstelling aan afwijkende standpunten. De contrasterende samenwerking omvatte uitgebreide blootstelling aan nieuwe informatie en tegenstrijdige perspectieven, maar de overtuigingen van de deelnemers bleven grotendeels onveranderd.
Bovendien werden de verschillen niet primair beïnvloed door korte-termijnvoorspellingen over de ontwikkeling van AI. De onderzoekers constateerden dat de belangrijkste kern, een AI-beoordelaar die zeer gevaarlijke vermogens ontdekt vóór 2030, slechts de gemiddelde kloof tussen optimisten en pessimisten in geringe mate verkleinde.
In plaats daarvan ontdekte de studie dat verschillende opvattingen over de lange termijn toekomst een grotere rol speelden bij het vormen van meningen. Optimisten geloofden over het algemeen dat het bereiken van AI op menselijk niveau langer zou duren dan de pessimisten hadden verwacht. Ze betoogden dat fundamentele doorbraken in machineleermethoden noodzakelijk waren om menselijke intelligentie te bereiken, inclusief vooruitgang op het gebied van robotica. Hoewel software-AI taal kan repliceren, stelden de optimisten dat fysieke taken die menselijke vaardigheden op niveau vereisen aanzienlijke uitdagingen vormen voor machines.
Een van de meest intrigerende bevindingen van de studie was de identificatie van “fundamentele wereldvisieverschillen” als een significante bron van divergentie. Deze meningsverschillen draaien om verschillende opvattingen over waar de bewijslast ligt in het debat. Hoewel beide groepen het erover eens waren dat buitengewone claims substantieel bewijs vereisen, waren ze het oneens over welke claims buitengewoon moesten worden beschouwd. De onderzoekers merkten op dat geloven dat AI tot de uitroeiing van de mensheid zou leiden buitengewoon lijkt wanneer men rekening houdt met het voortdurende bestaan van de mensheid gedurende honderdduizenden jaren.
Samengevat wierp de studie licht op de diepgewortelde redenen achter meningsverschillen over de gevaren die AI met zich meebrengt. Het benadrukte het belang van fundamentele wereldvisieverschillen, langetermijnperspectieven en de uitdagingen van het herkennen van buitengewone claims. Hoewel de studie de kloof in meningen niet heeft overbrugd, leverde het waardevolle inzichten op in de bronnen van verdeeldheid over dit omstreden onderwerp.
FAQs
The source of the article is from the blog kunsthuisoaleer.nl