Odborníci bijú na poplach ohľadom potenciálnych „katastrofických“ rizík, ktoré rýchlo sa vyvíjajúce umelá inteligencia (AI) predstavuje pre národnú bezpečnosť a ľudstvo ako celok. Nedávno zadaná správa Ministerstva štátu USA s názvom „Akčný plán na zvýšenie bezpečnosti a ochrany pokročilej AI“ varuje pred potrebou okamžitého konania na zmiernenie týchto rizík.
Hoci AGI (umele všeobecná inteligencia) ešte neprekročila ľudskú inteligenciu, správa varuje, že zavedenie pokročilej AI a AGI by mohlo destabilizovať globálnu bezpečnosť, čo je porovnateľné s nástupom jadrových zbraní. Na adresu tohto naliehavého problému správa navrhuje, aby vláda USA reagovala rýchlo a rozhodne a zaviedla opatrenia, ako sú potenciálne obmedzenia výpočtovej kapacity pridelené na tréning AI. Nedodržanie tohto môže viesť k „hrozbám vyhynutia pre ľudský druh.“
Táto správa je najnovšia z radu upozornení odborníkov na AI na existenčné riziká spojené s touto technológiou. Významné osobnosti v odvetví, vrátane Yanna LeCuna, hlavného vedca AI v Meta, Demisa Hassabisa, vedúceho oddelenia AI v Google vo Veľkej Británii a Erica Schmidta, bývalého generálneho riaditeľa Google, vyjadrili obavy. Okrem toho nedávny prieskum odhalil, že viac ako polovica výskumníkov v oblasti AI verí, že je päťpercentná šanca, že sa ľudstvo stretne s vyhynutím kvôli AI, vrátane iných nepriaznivých dôsledkov.
Na zostavení správy sa podieľalo viac ako 200 odborníkov vrátane zástupcov spoločností OpenAI, Meta a Google DeepMind, ako aj vládnych činiteľov. S ich kolektívnymi skúsenosťami odporúčajú autori dôležité kroky na zabránenie tomu, aby sa AI stala hrozbou pre ľudstvo. Ich návrhy zahŕňajú zavedenie horného limitu výpočtovej sily použitej na trénovanie modelov AI a požiadavku na to, aby si firmy AI vyžiadali povolenie od vlády pred trénovaním modelov nad určitým prahom. Správa tiež navrhuje učiniť trestným činom zverejnenie vnútorného fungovania alebo otvorený zdroj výkonných modelov AI.
Tieto odporúčania si kladú za cieľ riešiť riziká spojené s tým, že laboratóriá AI potenciálne „stratia kontrolu“ nad svojimi AI systémami, čo by mohlo mať vážne dôsledky pre globálnu bezpečnosť. AI, ako poznamenal Jeremie Harris, výkonný riaditeľ spoločnosti Gladstone AI a jeden z autorov správy, má potenciál revolucionizovať ekonomiky, liečiť choroby a prekonať predtým neprekonateľné výzvy. Avšak tá istá technológia nesie významné riziká, vrátane katastrofálnych a výskum naznačuje, že po dosiahnutí určitého stupňa schopností by AI mohla byť nekontrolovateľná.
Správa uznáva, že súčasné bezpečnostné a bezpečnostné opatrenia sú nedostatočné na riešenie národných bezpečnostných rizík, ktoré AI predstavuje. Poukazuje na potrebu okamžitého konania a prísnejších predpisov na zabezpečenie zodpovedného rozvoja a nasadenia AI technológií. Napriek tomu, vzhľadom k histórii varovných oznámení o AI a neustálym investíciám do jej rozvoja, zostáva neisté, či si budú vlády týchto odporúčaní všímať.
Je dôležité poznamenať, že Európska únia nedávno prijala revolučné právne predpisy na reguláciu AI, čím potenciálne nastavila tón pre budúcu reguláciu celosvetovo. Táto správa zo Spojených štátov vyvoláva opodstatnené obavy, najmä s ohľadom na súčasný stav regulácie AI v krajine. Niektorí by sa však mohli pýtať, či tieto odporúčania predstavujú prekročenie vlády, potenciálne brzdiace inovácie.
Greg Allen, riaditeľ Centra Wadhwani pre AI a pokročilé technológie, vyjadril skepsu ohľadom pravdepodobnosti, že vláda prijme tieto odporúčania. S intenzívnym debatom o rizikách AI je pre spoločnosť kľúčové, aby sa zapojila do vyváženého diskurzu, ktorý zohľadňuje nielen potenciálne výhody, ale aj potrebu účinných záruk.
## Časté otázky
### O čom je správa?
Správa zadaná Ministerstvom štátu USA upozorňuje na potenciálne „katastrofálne“ riziká vznikajúce v dôsledku rýchlo sa vyvíjajúcej AI pre národnú bezpečnosť a ľudstvo ako celok.
### Aké sú hlavné odporúčania správy?
Správa navrhuje zavedenie opatrení, ako je potenciálne obmedzenie výpočtovej sily pridelené na tréning pokročilých modelov AI a požiadavka na získanie povolenia od vlády na trénovanie modelov nad určitým prahom. Navrhuje tiež kriminalizáciu zverejnenia alebo odhalenia vnútorného fungovania výkonných modelov AI.
### Kto prispel k správe?
Správa bola vytvorená za účasti viac ako 200 odborníkov vrátane zástupcov spoločností ako OpenAI, Meta a Google DeepMind, ako aj vládnych činiteľov.
### Prečo odborníci majú obavy z AI?
Odborníci vyjadrili obavy o riziká, ktoré AI predstavuje pre ľudstvo. Rast pokročilej AI a AGI by mohol potenciálne destabilizovať globálnu bezpečnosť, čo by mohlo byť zrkadlené vplyvom jadrových zbraní.
### Aké kroky sa už podnikli na reguláciu AI?
Európska únia nedávno prijala legislatívu na reguláciu AI, ktorá stanovuje precedent pre budúce regulácie. Odpoveď ďalších vlád po celom svete zostáva otázna.
### Sú odporúčania prekročením právomocí vlády?
Niektorí môžu vnímať odporúčania ako prekročenie vlády, potenciálne brzdiace inovácie. Avšak je dôležité zapojiť sa do vyváženého diskurzu, ktorý zohľadňuje nielen potenciálne výhody AI, ale aj potrebu účinných opatrení.
## Definície
1. Umelá všeobecná inteligencia (AGI): Odkazuje na AI systémy, ktoré majú schopnosť porozumieť, učiť sa a aplikovať znalosti v širokom spektre úloh alebo domén.
2. Výpočtová sila: Odkazuje na schopnosť počítačového systému vykonávať výpočty a spracovávať dáta.
3. Otvorený zdroj: Prax zdieľania zdrojového kódu alebo vnútorného fungovania softvéru voľne, čo umožňuje ostatným jeho modifikáciu a redistribúciu.
## Súvisiace odkazy
1. US State Department
2. OpenAI
3. Meta
4. Google DeepMind
5. European Union
The source of the article is from the blog regiozottegem.be