Umenná inteligencia (AI) nesie so sebou potenciál vyvolať katastrofu alebo spôsobiť „neodvratný kolaps“, o čom prebehla veľa diskusií. Prečo však experti a superprognostikovia majú tak odlišné názory? Revolučná štúdia sa pokúsila odhaliť dôvody týchto nezhôd.
Štúdiu realizoval Forecasting Research Institute a zúčastnili sa experti na AI a ďalšie existenčné riziká, ako aj „superprognostikovia“ s preukázaným schopnosťami presného predpovedania svetových udalostí. Výskumníci požiadali obe skupiny, aby posúdili nebezpečenstvo, ktoré predstavuje AI.
Zaujímavo, výsledky odhalili výrazný rozdiel medzi týmito dvoma skupinami. Experti prejavili oveľa vyššiu úroveň obáv a priradili možnosti katastrofy výrazne vyššie šance ako superprognostici.
Aby sa preniklo hlbšie do dôvodov tohto dôrazného nesúhlasu, autori zorganizovali „adverzárnu spoluprácu“. Experti a superprognostici strávili rozsiahly čas čítaním nových materiálov a diskutovali s jednotlivcami s odlišnými názormi a moderátorom. Cieľom bolo zistiť, či vystavenie novým informáciám a protiargumentom ovplyvní presvedčenie ktorejkoľvek skupiny.
Okrem toho sa výskumníci snažili identifikovať základné problémy, ktoré by mohli potenciálne ovplyvniť názory ľudí. Jeden z takýchto kľúčových problémov sa týkal otázky, či by hodnotiteľ AI objavil dôkazy o tom, že AI dokáže autonómne replikovať, získavať zdroje a vyhnúť sa vypnutiu pred rokom 2030. Skeptici tvrdili, že pozitívna odpoveď na túto otázku by zvýšila ich obavy, zatiaľ čo pesimisti ohľadom AI tvrdili, že negatívna odpoveď by ich uistila.
Viedlo táto spoločná snaha k zblíženiu názorov? Odpoveď znie nie. Obidve skupiny sa vo svojich hodnoteniach pravdepodobnosti katastrofy relatívne nezmenili. Pesimisti ohľadom AI si trochu znížili pravdepodobnosti, zatiaľ čo optimisti urobili mierne zvýšenie. Napriek tomu však štúdia poskytla fascinujúce poznatky o pôvode týchto odlišných názorov.
Výskum sa najmä zameriaval na nezhody týkajúce sa potenciálu AI spôsobiť buď vyhynutie ľudstva, alebo neodvratný kolaps spoločnosti, kde globálny hrubý domáci produkt klesne pod 1 bilión dolárov alebo globálna populácia sa zníži na menej než 1 milión ľudí počas predĺženého obdobia. Hoci sú s AI spojené mnohé ďalšie riziká, štúdia sa rozhodla sústrediť na tieto extrémne, existenčné scenáre.
Zaujímavým zistením štúdie bolo identifikovanie „základných svetonázorových nezhôd“ ako významného zdroja rozdielov. Tieto nezhody sa týkajú odlišných názorov na to, kde leží bremeno dôkazu v diskusii. Zatiaľ…
The source of the article is from the blog combopop.com.br