L’intelligenza artificiale (IA) ha il potenziale di portare sia alla catastrofe che di causare un “collasso irreversibile”, dando vita a vivaci dibattiti. Ma perché esperti e superforecasters hanno opinioni così divergenti su questo argomento? Una studio innovativo ha cercato di scoprire le ragioni di questi disaccordi.
Lo studio, condotto dall’Istituto di Ricerca sul Forecasting, ha coinvolto esperti di IA e altri rischi esistenziali, nonché “superforecasters” con un comprovato track record nel prevedere con precisione eventi mondiali. I ricercatori hanno chiesto ad entrambi i gruppi di valutare il pericolo rappresentato dall’IA.
In modo interessante, i risultati hanno rivelato un netto contrasto tra i due gruppi. Gli esperti hanno mostrato un livello di preoccupazione molto più elevato e hanno assegnato probabilità significativamente più alte alla possibilità di una catastrofe rispetto ai superforecasters.
Per approfondire le ragioni di questo profondo disaccordo, gli autori hanno organizzato una “collaborazione avversaria”. Hanno fatto sì che esperti e superforecasters trascorressero molto tempo leggendo nuovi materiali e confrontandosi con individui con punti di vista opposti, facilitati da un moderatore. L’obiettivo era determinare se l’esposizione a nuove informazioni e controargomenti avrebbe influenzato le opinioni di entrambi i gruppi.
Inoltre, i ricercatori miravano a identificare i punti cruciali che potrebbero potenzialmente modificare le opinioni delle persone. Uno di questi punti cruciali riguardava la questione se un valutatore di IA troverebbe prove che l’IA sia in grado di replicare autonomamente, acquisire risorse e evitare lo spegnimento prima del 2030. Gli scettici sostenevano che una risposta positiva a questa domanda aumenterebbe le loro preoccupazioni, mentre i pessimisti sull’IA sostenevano che una risposta negativa li avrebbe resi meno ansiosi.
Questo sforzo collaborativo ha portato a una convergenza di opinioni? La risposta è no. Entrambi i gruppi sono rimasti relativamente invariati nelle loro valutazioni sulla probabilità di una catastrofe. I pessimisti sull’IA hanno ridotto leggermente le loro probabilità, mentre gli ottimisti hanno apportato un piccolo aggiustamento al rialzo. Tuttavia, lo studio ha fornito affascinanti spunti sulle origini di questi punti di vista divergenti.
Il focus principale della ricerca era sui disaccordi riguardanti il potenziale dell’IA di causare l’estinzione umana o un collasso irreversibile della società, con il PIL globale in picchiata sotto l’$1 trilione o la popolazione mondiale che si riduce a meno di 1 milione per un periodo prolungato. Mentre esistono numerosi altri rischi legati all’IA, lo studio ha scelto di concentrarsi su questi scenari estremi e esistenziali.
In modo interessante, le diverse opinioni non derivavano da variazioni nell’accesso alle informazioni o dall’esposizione a punti di vista discordanti. La collaborazione avversaria coinvolgeva un’esposizione ampia a nuove informazioni e prospettive contrastanti, eppure le convinzioni dei partecipanti sono rimaste in gran parte immutate.
Inoltre, le disparità non erano influenzate principalmente dalle previsioni a breve termine sullo sviluppo dell’IA. I ricercatori hanno osservato che il punto cruciale più significativo, vale a dire che un valutatore di IA scoprisse capacità altamente pericolose prima del 2030, ha solo ridotto in misura minima il divario medio tra ottimisti e pessimisti.
Invece, lo studio ha scoperto che le opinioni divergenti sul futuro a lungo termine hanno giocato un ruolo più sostanziale nel plasmare le opinioni. Gli ottimisti credevano generalmente che il raggiungimento dell’IA di livello umano richiedesse più tempo di quanto prevedessero i pessimisti. Hanno sostenuto che fossero necessari progressi fondamentali nei metodi di apprendimento automatico per raggiungere l’intelligenza di livello umano, compresi i progressi nella robotica. Mentre l’IA software può replicare il linguaggio, gli ottimisti hanno sostenuto che le attività fisiche che richiedono competenze di livello umano presentano notevoli sfide per le macchine.
Uno dei risultati più intriganti dello studio è stata l’identificazione dei “disaccordi di visione del mondo fondamentali” come una significativa fonte di divergenza. Questi disaccordi si basano su punti di vista divergenti su dove ricade l’onere della prova nel dibattito sull’IA. Sebbene entrambi i gruppi concordassero sul fatto che affermazioni straordinarie richiedono prove sostanziali, avevano opinioni diverse su quali affermazioni dovessero essere considerate straordinarie. I ricercatori hanno notato che credere che l’IA potesse portare all’estinzione dell’umanità sembrava straordinario considerando l’esistenza duratura dell’umanità per centinaia di migliaia di anni.
In sintesi, lo studio ha gettato luce sulle ragioni profondamente radicate dei disaccordi sulle minacce poste dall’IA. Ha messo in evidenza l’importanza delle differenze di visione del mondo fondamentali, delle prospettive a lungo termine e delle sfide nel riconoscere le affermazioni straordinarie. Sebbene lo studio non abbia colmato il divario nelle opinioni, ha fornito preziosi spunti sulle fonti di divisione su questo controverso argomento.
Domande frequenti (FAQ)
The source of the article is from the blog coletivometranca.com.br