Nedávno objavená správa uverejnená na zákazku vlády poukázala na naliehavú potrebu rýchleho konania v reakcii na rozvoj umelej inteligencie (AI). Správa s názvom „Akčný plán na Zvýšenie Bezpečnosti a Ochrany Pokročilého AI“ varuje, že nástup pokročilého AI a AGI (umelej všeobecnej inteligencie) by mohol predstavovať vážnu hrozbu pre globálnu bezpečnosť a potenciálne viesť k vyhynutiu ľudstva.
Táto správa zdôrazňuje naliehavú potrebu zásahu, ale zároveň navrhuje plán na riešenie týchto kritických otázok. Počas 13 mesiacov výskumníci zo spoločnosti Gladstone AI Inc. interviewovali rôzne zainteresované strany, vrátane vládnych úradníkov, hlavných poskytovateľov cloudových služieb, organizácií zaoberajúcich sa bezpečnosťou AI a odborníkov na bezpečnosť a výpočty. Ich zistenia poukazujú na paralely medzi vzostupom AI a historickým zavedením jadrových zbraní, čím sa otvára cesta k destabilizácii globálnej bezpečnosti.
Na zmiernenie týchto rizík správa navrhuje zavedenie dočasných ochranných opatrení proti pokročilému AI, ktoré neskôr budú formálnou súčasťou zákona. Jedným z potenciálnych opatrení je vytvorenie špecializovanej agentúry pre AI, ktorá bude regulovať výpočtový výkon, na ktorom AI pracuje. Okrem toho by mohlo byť potrebné povolenie štátu pre nasadenie nových modelov AI prekračujúcich určitý práh. Ďalším opatrením navrhnutým správou je obmedziť zverejňovanie informácií o tom, ako silné modely AI fungujú, vrátane potenciálneho zákazu open-source licencií, ktoré odhalujú takéto informácie.
S cieľom zabrániť zneužívaniu technológie AI, správa zdôrazňuje aj dôležitosť posilnenia kontrol nad výrobou a exportom čipov AI. Účinnými predpismi sa vláda snaží zmierňovať potenciálnu zbrane a stratu kontroly nad pokročilým AI.
Technologický priestor sa rýchlo mení a zistenia správy zdôrazňujú potrebu okamžitého zásahu na ochranu pred potenciálnymi rizikami spojenými s AI. Keďže vlády a organizácie po celom svete zápasia s týmito výzvami, zavedenie robustných opatrení a medzinárodnej spolupráce bude kľúčové pre zabezpečenie bezpečnosti a ochrany pred pokročilým AI.
The source of the article is from the blog maestropasta.cz