Dirbtinis intelektas (DI) be abejo pakeitė įvairias mūsų gyvenimo sritis. Nuo jo galimybės sukelti ekonominę transformaciją ir mokslinius proveržius iki gebėjimo pagerinti veiksmingumą ir produktyvumą, DI parodė pažadą ir potencialą. Tačiau naujas JAV Valstybės departamentu užsakytas pranešimas atkreipė dėmesį į „katastrofinę” nacionalinį saugumo riziką, susijusią su greitais DI technologijos pažangos žingsniais, ragindamas nedelsiant imtis veiksmų.
Pranešime, kurį atliko „Gladstone AI“, atkreipiamas dėmesys į galimą „žmonijos išnykimo grėsmę“, kurią DI galėtų kelti, jei nebus užkirstas kelias. Tyrimuose apklausta daugiau nei 200 asmenų, įskaitant vadovus iš vadovaujančių DI įmonių, saugumo ekspertus, masinių naikinimo ginklų specialistus ir nacionalinio saugumo pareigūnus, siekiant suprasti DI nekontroliuojamos plėtros rizikas ir pasekmes.
Viena iš pagrindinių pranešimo išvadų yra susirūpinimas, kad pažangiausi DI sistemos gali būti ginkluojamos, keliaudamos į nenugrįžtamą žalą. Be to, pačiuose DI laboratorijose yra kylančių rizikų, kad tyrėjai gali prarasti kontrolę virš pačių sistemų, kurias jie kūrią. Šios pavojai gali destabilizuoti pasaulinį saugumą, kaip ir praeityje staiga patekusių branduolinių ginklų įvedimas.
Norint įveikti šias reikšmingas grėsmes, pranešimas rekomenduoja apčiuopiamus veiksmus. Jis siūlo įsteigti naują DI agentūrą, skirtą stebėti DI technologijos plėtrą ir įdiegimą. Be to, pranešime pabrėžiama būtinybė taikyti „skubias” reguliavimo garantijas ir įvesti apribojimus, kuriuos kuriamais naudojamas skaičiavimo galias mokymui naudoti DI modelius.
Nors pranešimas pripažįsta, kad jo nuomonės ne visada atspindi JAV vyriausybės ar Valstybės departamento nuomonę, jis pabrėžia JAV vyriausybės susirūpinimą dėl pažangiosios DI plitimo ir saugumo rizikos. Kaip rodo 2022 m. pranešimas iš Valstybės departamento Neproliferacijos ir Ginklų nešiojimo fondo biuro, vyriausybė aktyviai stebėjo ir įvertino potencialias DI pavojų.
„Gladstone AI“ pranešimas suteikia informaciją apie saugumo problemas pažangiojoje DI bendruomenėje. Pranešime atskleidžiama, kad nors konkurenciniai spaudimai skatina pagreitintą DI plėtrą, saugumo klausimai dažnai nusileidžia antroje vietoje. Tai atveria galimybę pažangiausioms DI sistemoms būti pavogtoms ir naudojamoms kaip ginklai prieš Jungtines Valstijas, kelia didelę grėsmę nacionaliniam saugumui.
„Gladstone AI“ pranešime iškelti susirūpinimai nėra izoliuoti. Įtakingi asmenys, toki…
FAQ
Kokios rizikos kyla iš DI?
DI kelia didelį pavojų nacionaliniam saugumui, įskaitant galimybę, kad DI sistemos gali būti ginkluojamos, keliaudamos į nenugrįžtamą žalą. Be to, DI bendruomenėje kyla rūpesčių dėl pažangios DI sistemų kontrolės praradimo, galint turėti potencialiai katastrofiškų padarinių pasauliniam saugumui.
Kokius veiksmus pranešimas rekomenduoja?
Pranešime siūloma įsteigti naują DI agentūrą, įdiegti reguliavimo garantijas ir nustatyti apribojimus, naudotus mokymui mokytis DI modelių. Šie priemonės skirtos nedelsiant neišvengiamų grėsmių pašalinimui ir užtikrinant saugų DI technologijos plėtrą ir įdiegimą.
Ar JAV vyriausybė rimtai žiūri į šias rizikas?
Pranešimas pabrėžia būtinybę nedelsiant įsikišti JAV vyriausybei, tačiau jis taip pat pripažįsta, kad jo požiūris ne visada atspindi valdžios ar Valstybės departamento požiūrį. Vis dėlto vyriausybės pranešimuose nurodyta, kad ji nerimauja dėl saugumo rizikos, susijusios su pažangiuoju DI.
Ką pramonės lyderiai ir ekspertai sako apie DI rizikas?
Įtakingi asmenys, tokiu kaip Elon Musk ir Geoffrey Hinton, išreiškė susirūpinimą dėl galimų DI pavojų, įskaitant žmonijos išnykimo riziką. Verslo lyderiai taip pat išsakė rūpesčius dėl DI destruktyvaus potencialo, nors investuoja milijardus dolerių į jo plėtrą.
Koki…
– Dirbtinis intelektas (DI): Mašinų, ypač kompiuterių sistemų, kurios imituoja žmogaus intelekto procesus, įskaitant gebėjimą mokytis, spręsti uždavinius ir savarankiškai koreguotis, simuliacija.
– Ginkluotas: Ko nors paversti ginklu ar naudoti ją kaip ginklą, šiuo atveju tai reiškia, kad DI sistemos bus naudojamos žalingiems ar sunaikinimo tikslams.
– Skaičiavimo galia: Kompiuterio ar DI sistemos galimybė atlikti sudėtingus skaičiavimus ir apdoroti didelius kiekius duomenų.
Susiję…
– JAV valstybės departamentas: JAV valstybės departamento oficiali svetainė, kurioje pateikiama informacija apie tarptautinius santykius, užsienio politiką ir nacionalinio saugumo klausimus.
– Gladstone AI: Organizacija, atlikusi pranešime minėtą tyrimą, kuris susitelkia ties DI tyrimais ir jų įtaka visuomenei ir saugumui.
[YouTube Video](https://www.youtube.com/embed/I9FOswjTSGg)
The source of the article is from the blog crasel.tk