Naujas straipsnis pažvelgia į dirbtinio intelekto (AI) įtaką ir pateikia alternatyvų požiūrį į šį reiškinį. Dirbtinis intelektas pastaraisiais metais iš esmės pakeitė įvairias visuomenės sritis. Nuo teisėsaugos ir sveikatos prie socialinės gerovės ir teisingumo, AI sparčiai prasiskverbia į visus mūsų gyvenimo aspektus. Tačiau šių pažangų apsupant sušižavėjimą, turime taip pat susidurti su neatitikėtomis pasekmėmis, kurios atsiranda, kai AI yra taikomas be atidžios apmąstymo.
2016 m. vasarą moteris iš Amsterdamo gavo laišką iš mero biuro, kuris amžiams pakeitė jos šeimos gyvenimą. Laiške buvo atskleista, kad vienas iš jos sūnų, kuris turėjo problemų su policija, dabar yra sąraše smurtinių nusikaltėlių jaunuolių. Keistai, laiške taip pat buvo nurodyta, kad jos kitas sūnus buvo įtrauktas į atskirą paauglių duomenų bazę, kuriems buvo nustatyta rizika tapti nusikaltėliais ateityje. Šių sąrašų kūrimas buvo grindžiamas „ProKid“, mašininio mokymosi sistemos, kurį sukūrė akademiniai darbuotojai bendradarbiaudami su Olandijos policija.
„ProKid“ naudojo plačią duomenų skalę, įskaitant jauno žmogaus adresą, santykius, praeitą sąveiką su policija (net jei nebuvo apkaltintas ar nuteistas) ir mokyklos lankomumo įrašus, kad nuspėtų jų tikimybę dalyvauti nusikalstamoje veikloje. Pagrindinė prielaida buvo ta, kad ankstyvas įsikišimas, pvz., socialinės paslaugos, psichologinis palaikymas ir mokyklos angažavimas, galėtų užkirsti kelią šiems vaikams tapti nusikaltėliais.
Tačiau tikrovė buvo toli gražu ne iš anksto numatytos pasekmės. Vietoj to, kad neutralizuotų potencialią nusikalstamą elgesį, „ProKid“ dažnai turėdavo priešingą poveikį. Pažymėti įtraukimo į šiuos sąrašus, daug vaikų jautėsi atskirti ir savo vertę mažinamos valdžios akyse. Dėl šios priežasties kai kurie iš jų pradėjo vykdyti nusikalstamas veikas tiesiogiai reaguodami į įspūdį, kad juos jau laikomi nusikaltėliais. Amsterdamo 16 metų vaikino motina vadina sistemą „pamišusia“, nes ji neatitaisomai sugadino jos sūnaus gyvenimą.
Šis nerimą keliantis scenarijus, primenantis Philippe’o K. Dick’o novelės „Mažuma pranešimas“ siužetą, pabrėžia didelę problemą, susijusią su AI sistemomis: netransparentiškumas ir atskaitomybės stoka. Kaip nurodoma Madhumitos Murgia minties kėlinyje „Kodo priklausomas“, dažnai yra mažai paaiškinimo, kaip AI sistemos priima savo sprendimus ar kaip šie nusprendimai gali būti pakeičiami. Net Amsterdamo miesto valdžios institucijos, gavus prašymą pateikti informacijos, pripažino, kad nesupranta visiškai, kodėl „ProKid“ pasirinko tam tikras šeimas, o ne kitas.
„Kodo priklausomas” iki giliųjų nagrinėja AI poveikį visuomenei, pašviesti gyventojų gyvenimus, kurie buvo paveikti ar net sugriauti šiais nesuprantamaisiais sistemomis. Murgija, Finansinių laikraščių pirmoji dirbtinio intelekto redaktorė, sutelkia dėmesį į paprastus asmenis, ypač tuos iš marginalizuotų bendruomenių, kurie susiduria su AI šešėliu. Dešimtyje įdomiai parašytų skyrių ji tyrinėja, kaip mašininiai mokymosi modeliai veikia mūsų gyvenimo pagrindinius aspektus, nuo mūsų teisių ir tapatybės iki mūsų kūnų ir pragyvenimo šaltinių.
Nors AI pažangos ir sudėtingumai daugiausia kyla iš „Silicon Valley“, Murgija sąmoningai vengia šio inovacijų centro ir vietoj to pateikia plačiai paplitusius žmonių iš viso pasaulio pamėgdžiojimus, kurie kovoja su AI pasekmėmis. Taip ji nukreipia mūsų dėmesį į skubų poreikį visapusiškai suvokti AI tolimus poveikius visuomenei.
DUK
1. Kas yra dirbtinis intelektas (AI)?
Dirbtinis intelektas, paprastai vadinamas AI, yra kompiuterijos mokslo šaka, kurios tikslas yra kurti protingas mašinas, gebančias atlikti užduotis, kurias paprastai atlieka žmogiškas protas. Šios užduotys gali apimti kalbos atpažinimą, problemų sprendimą, sprendimų priėmimą ir modelių atpažinimą.
2. Kaip veikia ProKid?
ProKid yra mašininio mokymosi sistema, sukurtas akademikų bendradarbiaujant su Olandijos policija. Ji naudoja plačią duomenų skalę, tokią kaip jauno žmogaus adresas, santykiai, sulaikymo įrašai (nepriklausomai nuo apkaltinimų ar nuosprendžių) ir mokyklos lankomumas nuspėti jų dalyvavimo nusikalstamoje veikloje tikimybę.
3. Kas yra AI neatitikėtos pasekmės?
Nors AI suteikia daug naudos ir naujovių, jis taip pat gali turėti neatitikėtas pasekmes. Šios pasekmės gali kilti dėl iškreiptų duomenų, netransparentiškumo priimant sprendimus ir egzistuojančių visuomenės nelygybių stiprinimo. Pavyzdžiui, kaip nurodyta „Kode priklausoma“, AI sistemos, tokios kaip ProKid, gali stigmatizuoti individus ir vesti prie nusikalstamo elgesio replikacijos.
4. Kaip galime pašalinti neigiamą AI poveikį?
Norint pašalinti neigiamą AI poveikį, svarbu pirmenybę teikti transparentiškumui ir atskaitomybei kuriama bei įgyvendinama šių sistemų. Reguliarūs auditai, vieša apžvalga ir įvairūs požiūriai gali padėti nustatyti ir sumažinti iškraipas. Be to, skatinant etinius pokalbius ir įtraukiant marginalizuotas bendruomenes sprendimams priimant procesus, galima užtikrinti, kad AI integravimas į visuomenę būtų teisingesnis.
*(Šaltinis: [The Guardian](https://www.theguardian.com/books/2021/oct/28/code-dependent-undoes-your-liberty-identity-and-livelihood-by-madhumita-murgia-review))*
The source of the article is from the blog myshopsguide.com