Po necelé dve dekády pionierskeho výskumu existenčných rizík a budúcnosti umelej inteligencie uzavrel uznaný Inštitút budúcnosti ľudstva (FHI) na Univerzite v Oxfordu svoju činnosť. Založený v roku 2005 profesorom Nickom Bostromom, FHI mal významný vplyv na formovanie globálnych diskusií o dlhodobých vyhliadkach a nebezpečenstvách pre ľudstvo.
Rôznorodí výskumníci z rôznych odborov sa v inštitúte zišli s cieľom predvídať technologické evolúcie s potenciálom podstatne ovplyvniť ľudskú existenciu. Medzi významné oblasti výskumu FHI patrili globálne katastrofické riziká a hrozby, ktoré by mohli viesť k vyhynutiu ľudstva. Ich práca, ktorá priniesla koncepty ako hypotéza „Zraniteľného sveta“, významne ovplyvnili súčasnú diskusiu. Inštitút tiež dával prioritu výskumu v oblasti biozabezpečenia a prípravy na pandémie.
Jedným z významných raných záujmov FHI bola trajektória umelej inteligencie. Bostromova kniha z roku 2014 s názvom „Superinteligencia“ vyvolala globálnu debatu o rizikách pokročilých systémov umelej inteligencie. Na to nadviazal program FHI venovaný správe umelej inteligencie, ktorý sa venoval regulačným obavám. Napriek ich úspechom a konzultačnej úlohe s tvorcami politík a Organizáciou Spojených národov, inštitút čelil problémom s financovaním a náborom. Dňa 16. apríla 2024 oficiálne uzavrel svoje brány.
Dlhoročný výskumník Anders Sandberg ľutoval, že by sa malo viac investovať do politiky univerzít a sociálnych vzťahov s cieľom zabezpečiť stabilné partnerstvo s fakultou. Napriek tomu dedičstvo FHI pretrváva prostredníctvom mnohých výskumníkov a organizácií, ktoré inšpiroval. Teraz sa musí zamerať na naliehavé otázky ľudskosti a hľadať dopadné riešenia.
Ukončenie činnosti Inštitútu budúcnosti ľudstva otvára niekoľko dôležitých otázok a bodov diskusie relevantných pre oblasť existenčných rizík:
Otázky a odpovede:
O1: Čo spôsobilo zastavenie činnosti Inštitútu budúcnosti ľudstva?
A1: Hoci to nie je explicitne uvedené, bežné dôvody takýchto uzavretí zahŕňajú nedostatok financií, ťažkosti s udržaním náboru a strategické zmeny v rámci nadriadeného orgánu, v tomto prípade Univerzity v Oxforde.
O2: Čo sa stane s prebiehajúcim výskumom a iniciatívami, ktoré FHI podnikal?
A2: Typicky, keď inštitút zanikne, súčasné výskumné projekty buď dokončia jeho zvyšní zamestnanci, prevedú sa na iné inštitúcie alebo jednotlivcov, alebo sa, bohužiaľ, ukončia.
O3: Ako postavenie FHI ovplyvní celosvetové politiky týkajúce sa existenčných rizík a regulácie umelej inteligencie?
A3: Strata FHI by mohla vyvolať medzeru vo špecializovanom výskume a odporúčaniach politík. Vplyv jeho práce však pokračuje prostredníctvom výskumníkov, ktorí tam boli vyškolení, a jeho príspevkov do oblasti.
Kľúčové výzvy a kontroverzie:
– Financovanie: Výskum existenčných rizík často má problémy získať neustále financovanie, pretože sa môže považovať za špekulatívny alebo menej naliehavý ako okamžité problémy.
– Nábor: Pritiahnutie a udržanie expertov v takejto špecializovanej a komplexnej oblasti môže byť náročné, ovplyvňujúc operačnú udržateľnosť výskumných inštitúcií.
– Merenie vplyvu: Dokázanie efektívnosti práce pri predchádzaní existenčným rizikám je z podstaty ťažké, čo môže ovplyvniť ospravedlnenie investícií alebo podporu zo zainteresovaných strán.
Výhody a nevýhody:
Výhody práce FHI zahŕňajú zvyšovanie povedomia a pochopenia globálnych katastrofických a existenčných rizík, ovplyvňovanie regulácie a bezpečnosti umelej inteligencie a prispievanie akademickej rigoróznosti do oblasti štúdia dlhodobých budúcností.
Nevýhody sa môžu týkať potenciálneho zdôraznenia dlhodobých pred okamžitými problémami, obtiažnosti pri konkrétnych výsledkoch z špekulatívnych výskumov a možnosti, že takéto inštitúcie odvedú pozornosť a zdroje od iných naliehavých problémov.
Dôležité je mať na pamäti, že aj keď FHI zanikol, oblasť výskumu existenčných rizík je široká a pretrváva naprieč rôznymi inštitúciami a iniciatívami. Zainteresovaní účastníci, ktorí chcú ďalej preskúmať takéto témy alebo hľadať spoluprácu, môžu preskúmať iné inštitúcie alebo think tanky venované podobným cieľom.
The source of the article is from the blog be3.sk