Technologijų pasauliuose, kurį vis labiau valdo technologijos, dirbtinio intelekto (DI) pažanga kelia ne tik didžiules galimybes, bet ir reikšmingus pavojus. Nors DI turi potencialą revoliucionuoti įvairias pramonės šakas ir spręsti kompleksinius problemas, būtina pripažinti rizikas, susijusias su jo sparčiu vystymusi. Naujausi Amerikos Valstybės Departamento užsakymu atliktas tyrimas parodė, kad besikeičiantis DI peizažas kelia svarbius nacionalinės saugumo pavojus, kurių negalima ignoruoti.
„Gladstone AI” ataskaita, parengta atlikus didelį tyrimą ir interviu su pramonės ekspertais bei vyriausybės pareigūnais, pabrėžia galimas katastrofines pasekmes, kurios gali kilti iš pažangios DI sistemų. Ataskaita nurodo, kad blogiausiu atveju šios sistemos gali kelti išnykimo lygmens grėsmę žmonijai.
Konkurencija tarp pirmaujančių DI laboratorijų, siekiančių sukurti pažangiausias sistemas, yra pagrindinė šių potencialių pavojų varomoji jėga. Varžybų siekiant pasiekti žmogaus lygmens ir viršžmogišką dirbtinį bendrąjį intelektą (AGI) rezultatas yra saugumo ir apsaugos priemonių nepaisymas. Šis spūstis dėl vystymosi padidina galimybę, kad pažangios DI sistemos pateks į netinkamas rankas, galint paskatinti jų kenksmingą naudojimą prieš šalis, įskaitant Jungtines Valstijas.
„Gladstone AI” ataskaita taip pat kelia nerimą dėl kontrolių praradimo per DI sistemas. Ji teigia, kad DI laboratorijos gali patirti iššūkių tvarkingai valdyti ir suvaržyti savo kūrinius, dėl to didėja globalūs saugumo rizikos faktoriai. DI varomojojo technologijos piktnaudžiavimas ar manipuliavimas gali sukelti sunkias pasekmes, tokią kaip labai žalingi kibernetiniai atakai, galintys paralyžiuoti kritinę infrastruktūrą.
Nors DI turi didžiulį potencialą naudingoms taikymo sritims, svarbu įvertinti su jo vystymu siejamus rizikas. Ataskaita rekomenduoja imtis ryžtingų veiksmų siekiant sumažinti šias grėsmes. Tai apima naujos DI agentūros įsteigimą, skirtos kontroliuoti DI progresą, skubiosios reguliavimo priemonės įgyvendinimą ir apribojimus dėl per didelio kompiuterių galios, skiriamos DI mokymui.
DUK
The source of the article is from the blog klikeri.rs