Vedantys technologijų įmonės ir vyriausybės vieningai įkurdina dirbtinio intelekto apsaugos priemones. Technologijų pramonės gigantai, įskaitant „Microsoft“, „OpenAI“, „Anthropic“ ir dar dvylika įmonių, susitarė dėl pirmtakų politikos struktūros. Jei kuriant naujus dirbtinio intelekto modelius iškils pabėgimo situacija, jie sutiko sustabdyti pažangą, kad būtų išvengta potencialių katastrofiškų scenarijų, panašių į tikrąjį „Terminatorių“ įvykį.
Bendros pastangos mažinti dirbtinio intelekto rizikas. Šį susitarimą pasiekta Seule, kur organizacijos ir vyriausybių atstovai susirinko nuspręsti savo trajektoriją dėl dirbtinio intelekto plėtros. Susitarimas susijęs su „išjungimo mygtuku“ – įsipareigojimu sustabdyti savo pažangiausių dirbtinio intelekto modelių pažangą, jei jie viršija iš anksto apibrėžtas rizikos ribas.
Tekia konkrečių veiksmų ir aiškumo trūkumas. Nepaisant susitarimo, pastebimas konkretaus veiksmo nebuvimas ar apibrėžto „pavojingo“ slenksčio, kuris įgalintų įjungti išjungimo mygtuką, nebuvimas. Tai kelia klausimą dėl šios politikos įgyvendinamumo ir efektyvumo.
Iš „Yahoo News“ surinkti pranešimai byloja, kad extrēminiai atvejai organizacijas skatintų neleisti naujų dirbtinio intelekto modelių, jei kontrolės priemonės yra nepakankamos. Stambiai veikėjai, tokių kaip „Amazon“, „Google“ ir „Samsung“, taip pat prisiekė savo paramą šiai iniciatyvai, signalizuojant apie plačiai apimančią pramonės sutarimą.
Diskusijose su dirbtinio intelekto ekspertais, pavyzdžiui, tokiuose, kuriuos praneša „Unboxholics“, pabrėžiama svarbių rizikų svarba, skatindama šį vieningą sprendimą. Šis žingsnis atspindi pripažinimus iškilmingo akademikų Geoffrey Hintono, įspėjusio, kad dirbtinis intelektas gali pakeisti žmones įvairiose darbo srityse, signalizuojant gilų darbo jėgos dinamikos poslinkį.
Svarbūs nerimą keliantys klausimai ir iššūkiai, susiję su dirbtinio intelekto skubiu sustabdymo strategijomis:
1. ‘Pavojingo’ slenksčio apibrėžimas: Pagrindinis iššūkis yra nustatyti tikslias parametrų vertes, nustatančias, kada dirbtinis intelektas tampa per rizikingas, kad kurti jį toliau nėra įmanoma. Be aiškių apibrėžimų, bet koks susitarimas sustabdyti galėtų būti subjektyvus ir kelti interpretacijų.
2. Vykdomumas: Užtikrinti, kad visi šalys laikytųsi sustabdymo susitarimo, yra sudėtinga, ypač atsižvelgiant į globalių reglamentavimo struktūrų nebuvimą, skirtų tiksliai dirbtiniam intelektui.
3. Technologinės galimybės: Pačio išjungimo mygtuko įgyvendinimas yra techninės problemos, kuri reikalauja patikimų mechanizmų, inžinerijos įdirbio į dirbtinio intelekto sistemas, kuri yra sudėtingas uždavinys.
4. Konkurenciniai spaudimai: Įmonės gali atvirkščiai būti atsparios stabdant ar sulėtinant pažangą, jei konkurentai to nedarė, vadovaudamiesi galimybe kilti ginklavimosi varžybose, skirtose dirbtinio intelekto plėtrai.
5. Duomenų privatumo ir saugumo: Pažangios dirbtinio intelekto sistemos gali tvarkyti didelius duomenų kiekius, ir jų staigus išjungimas gali kelti duomenų privatumo ir saugumo rizikų.
Dirbtinio intelekto sustabdymo susitarimo privalumai:
– Padidėjęs saugumas: Tai suteikia apsaugos tinklą nuo išsiderėtų išankstinio intelekto sistemos padarinių.
– Viešoji pasitikėjimas: Toks susitarimas gali padidinti visuomenės pasitikėjimą dirbtinio intelekto technologijomis ir jas vystančiomis subjektais.
– Bendras atsakomybės jausmas: Tai skatina atsakomybės ir bendradarbiavimo kultūrą tarp technologijų įmonių.
Dirbtinio intelekto sustabdymo susitarimo trūkumai:
– Inovacijų slopinimas: Perdaug atsargūs ar neaiškūs nurodymai gali slopinti inovacijas.
– Konkurenciniai nepalankumai: Subjektai, kurie laikosi susitarimo, gali atsilikti nuo tų, kurie to nedarė, ypač regionuose su skirtingomis reglamentavimo ar vykdymo lygmenimis.
– Sunkus įgyvendinimas: Įgyvendinti ir valdyti išjungimo mygtuko praktines aspektus gali būti iššūkis ir reikalauti didelių išteklių.
Nors yra siūlomi privalumai ir pastebėti iššūkiai, ši plėtra rodo, kad technologijų pramonė keičia savo požiūrį, kaip atlieka atsakomybę formuojant dirbtinio intelekto ateitį. Išankstinio intelekto pažangos neišvengiamumas verčia svarstyti saugiklius, kurie apsaugotų nuo žalingų rezultatų. Labai svarbu tęsti tyrimus ir dialogus tarp suinteresuotų šalių, siekiant efektyviai pertvarkyti ir įgyvendinti tokias struktūras.
Tiems, kuriuos domina šio susitarimo plačiau kontekstas, autoritatyvius šaltinius ir diskusijas apie dirbtinį intelektą, politiką ir saugumą galite rasti pagrindinėse organizacijų svetainėse, tokiose kaip Dirbtinio Intelekto Pažangos Asociacija (AAAI) adresu AAAI ir Ateities Gyvybės Instituto adresu Future of Life Institute. Būtina patikrinti šiuos išteklius, kad būtumėte informuoti apie kylančius dirbtinio intelekto plėtros, politikos ir diskusijų klausimus.
The source of the article is from the blog lisboatv.pt