Nedavno otkriveni izvještaj koji je naručila vlada istaknuo je hitnu potrebu za brzom akcijom kao odgovor na razvoj umjetne inteligencije (AI). Izvještaj pod nazivom “Plan akcije za povećanje sigurnosti napredne AI tehnologije” upozorava da dolazak napredne AI i AGI (umjetne opće inteligencije) može predstavljati ozbiljnu prijetnju globalnoj sigurnosti i potencijalno dovesti do izumiranja ljudske vrste.
Dok ovaj izvještaj naglašava hitnu potrebu za intervencijom, također predlaže plan akcije za rješavanje ovih ključnih problema. Tijekom 13 mjeseci istraživači iz tvrtke Gladstone AI Inc. intervjuirali su različite dionike, uključujući vladine dužnosnike, glavne pružatelje usluga računalnih oblaka, organizacije za sigurnost AI te stručnjake za sigurnost i računarstvo. Njihova istraživanja ističu paralele između pojave AI i povijesnog uvođenja nuklearnog naoružanja, otvarajući put destabilizaciji globalne sigurnosti.
Kako bi se suprotstavili tim rizicima, izvještaj sugerira uspostavu privremenih naprednih sigurnosnih mjera za AI, koje će kasnije biti formalizirane zakonom. Jedna potencijalna mjera je stvaranje posebne agencije za AI odgovorne za reguliranje računalne snage na kojoj AI djeluje. Dodatno, tvrtke koje se bave AI mogu zahtijevati odobrenje vlade za implementaciju novih modela koji premašuju određeni prag. Drugo rješenje koje predlaže izvještaj jest ograničavanje otkrivanja načina funkcioniranja moćnih AI modela, uključujući potencijalno zabranjivanje licenciranja otvorenog koda koje otkriva takve informacije.
Kako bi se spriječila zlouporaba tehnologije AI, izvještaj također naglašava važnost jačanja kontrole nad proizvodnjom i izvozom AI čipova. Nametanjem strožih propisa, vlada ima za cilj ublažiti potencijalnu vojnu uporabu i gubitak kontrole nad naprednom AI.
Tehnološki krajolik brzo se mijenja, a nalazi izvještaja ističu potrebu za hitnom akcijom kako bi se zaštitili od potencijalnih rizika povezanih s AI. Dok se vlade i organizacije diljem svijeta suočavaju s tim izazovima, provedba snažnih sigurnosnih mjera i međunarodna suradnja bit će ključni za osiguranje sigurnosti napredne AI.
Česta pitanja:
P: Koja je glavna zabrinutost istaknuta u izvještaju koje je naručila vlada?
O: Izvještaj ističe zabrinutost da bi razvoj napredne AI i AGI mogao predstavljati ozbiljnu prijetnju globalnoj sigurnosti i potencijalno dovesti do izumiranja ljudske vrste.
P: Što izvještaj predlaže kao rješenje za rješavanje ovih problema?
O: Izvještaj predlaže uspostavu privremenih sigurnosnih mjera za naprednu AI, koje će kasnije biti formalizirane zakonom. Predlaže stvaranje posebne agencije za AI odgovorne za regulaciju računalne snage AI i potencijalno zahtjevanje odobrenja vlade za implementaciju novih modela AI.
P: Kako izvještaj predlaže ograničiti otkrivanje funkcioniranja AI modela?
O: Jedno rješenje predloženo u izvještaju je potencijalno zabranjivanje licenciranja otvorenog koda koji otkriva način funkcioniranja moćnih AI modela, čime se ograničava otkrivanje tih informacija.
P: Koja je važnost kontrola nad proizvodnjom i izvozom AI čipova?
O: Izvještaj ističe važnost jačanja kontrole nad proizvodnjom i izvozom AI čipova kako bi se spriječila zlouporaba i potencijalno naoružavanje tehnologije AI.
Definicije:
– Umjetna inteligencija (AI): Simulacija ljudske inteligencije u strojevima koji su programirani da razmišljaju i uče poput ljudi.
– Umjetna opća inteligencija (AGI): Umjetna inteligencija koja posjeduje sposobnost razumijevanja, učenja i primjene znanja na širokom rasponu zadataka, slično ljudskoj inteligenciji.
The source of the article is from the blog elblog.pl