Nová zpráva varuje o blížících se rizicích pro nacionalní bezpečnost z umělé inteligence. Nedávná zpráva, kterou zadal americký ministerstvo zahraničí, vyvolává vážné obavy ohledně potenciálních rizik pro nacionalní bezpečnost spojených s rychle se vyvíjející umělou inteligencí (AI). Zpráva, prováděná společností Gladstone AI, zdůrazňuje naléhavou potřebu intervence federální vlády, aby se předešlo potenciální katastrofě.
Nalezení zprávy bylo výsledkem více než ročního výzkumu, který zahrnoval rozhovory s více než 200 osobami, včetně vysoce postavených ředitelů předních firem zabývajících se AI, výzkumníků zabývajících se kybernetickou bezpečností, odborníků na zbraně hromadného ničení a představitelů státní bezpečnosti. Zpráva tvrdě uvádí, že pokročilé systémy AI by v nejhorším případě mohly představovat „hrozbu pro vyhynutí lidského druhu.“
I když americké ministerstvo zahraničí nevydalo k této zprávě žádný komentář, jeho varování slouží jako připomenutí, že vedle potenciálních výhod AI existují reálná a závažná nebezpečí. AI má potenciál revolučně změnit různá odvětví, od zdravotnictví po vědecké objevy, ale přináší také vážná rizika, která je třeba uznat a řešit.
Jeremie Harris, generální ředitel a spoluzakladatel Gladstone AI, zdůraznil potřebu uvědomění si a opatrnosti s tím, že „nad určitou úrovní schopnosti by se mohli AIs potenciálně stát nekontrolovatelnými.“ Tento postoj je podporován empirickým výzkumem a analýzou představenou na předních konferencích AI, která poukazuje na rostoucí množství důkazů podporujících obavy vyjádřené v zprávě.
Zpráva také adresuje kroky, které podnikla americká vláda k řízení rizik spojených s AI. Mluvčí Bílého domu Robyn Patterson chválil výkonný příkaz prezidenta Joea Bidena týkající se AI jako významný krok a vyjádřil závazek administrativy spolupracovat s mezinárodními partnery a naléhat na Kongres, aby přijal legislativu k řešení těchto rizik.
Zpráva konkrétně stanovuje dvě hlavní nebezpečí, která AI představuje. Za prvé, pokročilé systémy AI by mohly být potenciálně zbraněny, což by vedlo k nenapravitelné škodě. Za druhé existuje obava, že laboratoře AI mohou ztratit kontrolu nad systémy, které vyvíjejí, což by mohlo mít devastující následky pro globální bezpečnost. Zpráva připodobňuje vzestup AI k zavedení jaderných zbraní a varuje před možnými konflikty, zbrojním závodem a fatálními nehodami.
Pro konfrontaci s těmito hrozbami zpráva Gladstone AI volá po založení nové agentury AI, implementaci nouzových regulačních opatření a omezení množství výpočetní síly použité k trénování modelů AI. Autoři zdůrazňují zřejmou a naléhavou potřebu, aby americká vláda podnikla kroky k řešení těchto rizik.
Je důležité poznamenat, že ačkoli zpráva byla vypracována pro ministerstvo zahraničí, vyjádřené názory neznamenají nutně totožnost s postoji agentury a širší americkou vládou.
V důsledku obav o bezpečnost vyjádřených ve zprávě sdílel generální ředitel Gladstone AI Jeremie Harris, že jejich tým měl bezprecedentní přístup k úředníkům jak ve veřejném, tak v soukromém sektoru, což přispělo k alarmujícím závěrům. Zpráva uvádí rozhovory s technickými a vedoucími týmy předních firem AI, jako jsou OpenAI, Google DeepMind, Facebook Meta a Anthropic.
Celkově zjištění zprávy přináší světlo do nátlakových rizik pro národní bezpečnost spojená s rozvíjející se technologií AI. Naléhavost intervence a implementace ochranných mechanismů nelze přehlédnout. A jak AI pokračuje ve vývoji, je klíčové, aby byly přijaty preventivní opatření k zajištění jejího zodpovědného vývoje a nasazení. Sázky jsou vysoké, a čas jednat je nyní.
FAQ
Co je to AI?
AI neboli umělá inteligence se odkazuje na vývoj počítačových systémů, které mohou plnit úkoly, které obvykle vyžadují lidskou inteligenci. Tyto úkoly mohou zahrnovat rozpoznání řeči, rozhodování, řešení problémů a učení.
Jaká jsou potenciální rizika AI?
Zpráva zdůrazňuje několik potenciálních rizik spojených s AI. Patří mezi ně zbranění pokročilých systémů AI, ztráta kontroly nad systémy AI, konflikty vznikající v důsledku zbrojního závodu AI a potenciálně katastrofické nehody.
Jaká opatření jsou doporučena k řešení těchto rizik?
Zpráva navrhuje založení nové agentury AI, implementaci nouzových regulačních opatření a omezení výpočetní síly použité k trénování modelů AI. Tato opatření si kladou za cíl čelit národní bezpečnostním rizikům, které přináší pokročilá technologie AI.
Jak reaguje americká vláda na tyto rizika?
Americká vláda, skrze výkonný příkaz prezidenta Joea Bidena týkající se AI, podnikla významné kroky k řízení rizik spojených s umělou inteligencí. Administrativa je také zavázána k spolupráci s mezinárodními partnery a naléhání na Kongres, aby schválil bipartiční legislativu týkající se těchto nových technologií.
Pro více informací můžete navštívit hlavní doménu společnosti Gladstone AI na https://www.gladstoneai.com
The source of the article is from the blog mendozaextremo.com.ar