Valeriejus Fadejevas įvardijo galimus pavojus
Valeriejus Fadejevas, Rusijos prezidento Tarybos dėl pilietinės visuomenės plėtros ir žmogaus teisių vadovas, pabrėžė svarbų atsargų naudojimą naujųjų skaitmeninių technologijų ir dirbtinio intelekto (DI) į sprendimus, kurie veikia žmonių gyvenimus. Kalbėdamas pirmajame Tarptautiniame moksliniame ir praktiniame forume „Skaitmeninės saugos teisė” MGIMO universitete, su fizinės ar technologinės kilmės fonu Fadejevas išsako skeptišką požiūrį į hajpą aplink naujas technologijas, skaitmenizaciją ir DI.
Klaidingo asmenybės atpažinimo atvejis
Taryba dalyvavo išlaisvinant vyrą, neteisingai įkalintą remiantis veido atpažinimo programine įranga, kuri neteisingai jį identifikavo kaip nusikaltėlį su 55% tikimybe. Fadejevas minėjo, kad net ir 1% klaidų riba yra svarbi, kai kalbama apie jautrius klausimus, ir pabrėžė reikalingumą mažo klaidų procento kai žmonių likimai yra ant akmens.
Būtinybė pasiekti teigiamus rezultatus
Savo sesijoje „Skaitmeninės žmogaus teisės ir skaitmeninė sauga” Fadejevas aptarė poreikį formuoti sprendimus, vedančius prie skaitmenizacijos teigiamų įtakų. Jis ragino suprasti šias naujas technologijas, kad pasinaudotų jų dideliu potencialu visuomenės gerovei.
Apibrėžiant skaitmenines teises be teismo
Elina Sidorenko iš Tarybos ir ANO „Baltoji interneto” vadovė pabrėžė labai svarbu apsaugoti skaitmenines teises be teismo, pvz., per arbitražo teismus, kad teisiškai nustatytų skaitmeninius pėdsakus kaip faktus. Ji ginčėsi, ar „skaitmenizuoti” advokatus ar „legalizuoti” IT specialistus, palaikydama advokatų skaitmenizaciją siekiant išsaugoti tam tikras teisines normas, tuo pat metu prisitaikant prie naujų skaitmeninių realijų.
Forumas, organizuotas ANO „Baltoji interneto” ir Rusijos užsienio reikalų ministerijos bendradarbiavimu su pirmaujančiais Rusijos universitetais, tarnavo ekspertų platforma aptarti dabartinius tendencijas, teisines rizikas, susijusias su skaitmenizacija, ir kurti strategijas, siekiant sustiprinti Rusijos skaitmeninę suverenumą ir saugumą.
Etikos ir valdymo svarba DI
Kritinis DI ir skaitmeninių technologijų tyrinėjimas sprendimu priėmimo procesuose turi pripažinti būtinybę turėti etikos gaires bei valdymą. Tokios pažangios technologijos kaip DI gali reikšmingai paveikti sprendimų priėmimo procesus įvairiose srityse, įskaitant baudžiamąją teisę, finansus, sveikatos priežiūrą ir valdymą. Užtikrinti, kad tokie sistemos nebūtų šališkos, skaidrios ir veiktų etinių ribų apriboje, yra būtina.
Biudžetų ir diskriminacijos problema
Vienas iš svarbiausių iššūkių yra rizika paveldėti žmogiškas baises DI algoritmuose, kurie gali lemti diskriminacinę praktiką. Svarbu atsižvelgti į įvairias duomenų rinkinius ir įtrauktinį algoritmus, siekiant sumažinti šias rizikas.
Skaidrumas ir paaiškinamumas
Kitas rūpestis yra skaidrumas ir paaiškinamumas. DI sistemos turi būti sukuriamos taip, kad jų sprendimai būtų suprantami ir nagrinėjami žmonių, ypač kai šie sprendimai turi reikšmingų padarinių žmonėms ar visuomenei.
Duomenų privatumas ir saugumas
Duomenų privatumas ir saugumas yra svarbūs, atsižvelgiant į tai, kad DI sistemos dažnai remiasi dideliais kiekiais asmeninių duomenų. Šių duomenų apsauga nuo pažeidimų ir užtikrinimas, kad asmenų privatumo teisės būtų gerbiamos, yra svarbus klausimas.
Reguliavimo iššūkiai
Reguliavimo iššūkiai taip pat kyla, kai šalys ir organizacijos kovoja su geriausiais būdais valdyti ir tvarkyti DI ir skaitmenines technologijas. Reguliavimo standartai, pvz., Bendrai rinkoje veikiantys teisės aktai Europos Sąjungoje (GDPR), yra pastangos spręsti šiuos klausimus, tačiau pasauliniai standartai tebėra darbo procesas.
DI ir skaitmeninių technologijų privalumai sprendimu priėmime
– Sprendimų procesų efektyvumo ir greičio didinimas.
– Duomenimis pagrįstos įžvalgos, kurios gali vesti prie tikslesnių rezultatų.
– Potenciali galimybė įveikti žmogiškų kognityvinių ribojimų ir iššūkius (jei tinkamai sukurti).
DI ir skaitmeninių technologijų trūkumai sprendimu priėmime
– Galimas darbo vietų praradimas dėl automatizavimo.
– Sunkumai suprasti ir interpretuoti DI sprendimų procesus.
– Rizika išlaikyti ir padidinti baises, jei atidžiai neseka.
– Priklausomybė nuo technologijų gali lemti pažeidžiamumą gedimų ar internetinių atakų atvejais.
Atitinkančios nuorodos pagrindiniams sritims, aptariantiems DI ir skaitmeninių technologijų valdymą, gali apimti:
– Pasaulio sveikatos organizacija (PSO) etikai AI sveikatos priežiūroje
– Jungtinės Tautos (JT) diskusijos apie skaitmenines žmogaus teises
– Europos Komisija (EK) reguliavimai, pvz., GDPR
– Tarptautinis telekomunikacijų sąjunga (TTS) globalūs standartai technologijų srityje
Atminkite, kad aukščiau pateiktos URL yra pagrindinės sritys, ir kiekviena organizacija siūlo išsamių išteklių apie DI ir skaitmenines technologijas jų atitinkamose srityse ir ekspertizės srityse.