Mākslīgā intelekta (MI) izmantosanai ir gūta ievērojama labvēlība pēdējo gadu laikā, pārveidojot dažādas sabiedrības nozares. Sākot no likumdošanas un veselības aprūpes līdz sociālās labklājības un tiesiskuma jomām, MI strauji iekarot visas dzīves nozares. Tomēr, priekā par šiem progresiem mums ir jāņem vērā arī negaidītie seku, kas rodas, kad MI tiek ieviests bez rūpīgas pārdomas.
2016. gada vasarā Amsterdamā sieviete saņēma vēstuli no mēra biroja, kas uz visiem laikiem mainīja viņas ģimenes dzīvi. Vēstulē bija atklāts, ka viens no viņas dēliem, kurš bija bijis problēmās ar policiju, tagad atradīsies vardarbīgu noziedznieku jauniešu sarakstā. Šokējoši, vēstulē tika atklāts, ka otrs dēls tika iekļauts atsevišķā datu bāzē, kurā iekļauti pusaudži, kuri tiek uzskatīti par riskantu noziedznieku nākotnē. Šīs saraksti tika izveidoti, izmantojot ProKid, mašīnmācīšanās sistēmu, ko izstrādāja akadēmiskā vidē sadarbojoties ar Nīderlandes policiju.
ProKid izmantoja plašu datu klāstu, ieskaitot jaunieša dzīvesvietu, attiecības, iepriekšējas saiknes ar likumpārkāpumiem (pat ja nav uzņemts vai notiesāts), un skolas apmeklējuma reģistrus, lai paredzētu viņu iespējamo iesaistīšanos noziedzīgās darbībās. Pamata pieņēmums bija tāds, ka agrīna iejaukšanās, piemēram, sociālās pakalpojumi, psiholoģiska atbalsts un skolas iesaistīšana, var novērst šo bērnu iekļūšanu noziedzīgajā dzīvē.
Taču realitāte bija tālu no paredzētā rezultāta. ProKid nereti neitralizēja iespējamo noziedzīgo rīcību. Stigmatizēti, iekļaujoties šajos sarakstos, daudzi no šiem bērniem jutās izslēgti un redzēja, ka viņu vērts ir samazinājies varas iestāžu acīs. Tā rezultātā daži no viņiem atgriezās pie noziedzības kā tieša reakcija uz uztveri, ka viņi jau tiek uzskatīti par noziedzniekiem. Āmsterdama dzīvojošas 16 gadus veca zēna māte sistēmu raksturo kā “neprātīgu”, jo tā neatgriezeniski bojāja viņa dēla dzīvi.
Šis satraucošais scenārijs, atgādinot Filipsa K. Dika noveles “Mazākumtautības ziņas”, uzrāda plašāku problēmu, kas saistīta ar MI sistēmām: pārredzamības un atbildības trūkumu. Kā norādīts Madhumitas Murgias domāšanas rosinošajā grāmatā “Koda atkarības”, bieži vien ir neliels skaidrojums par to, kā MI sistēmas nonāk pie savām lēmumu pieņemšanas, vai kā šos lēmumus var mainīt. Pat Amsterdamas pilsētas iestādes, prasot informāciju, atzina, ka ir ierobežota saprašana par to, kāpēc ProKid izvēlējās dažādas ģimenes attiecībā uz citas. Patiesībā šādas algoritmu bieži vien tiek izstrādātas kā “necaurredamie sistēmas”, kuru iekšējās darbības paliek noslēpumainas pat to radītājiem.
“Koda atkarības” dziļi iegrimst MI ietekmē uz sabiedrību, atklājot dzīvotāju dzīves, kuras ietekmētas un pat iznīcinātas šo nesaprotamo sistēmu dēļ. Murgija, Financial Times pirmā mākslīgā intelekta redaktore, koncentrējas uz parastiem indivīdiem, it īpaši uz to no marginalizētām kopienām, kuri atrodamies MI ēnā. Izstrādājot desmit rušņojās rakstītas nodaļas, viņa izpēta, kā mašīnmācīšanās modeļi ietekmē fundamentālas dzīves jomas, sākot no mūsu tiesībām un identitātes līdz mūsu ķermeniem un iztikas līdzekļiem.
Lai arī MI progresi un sarežģījumi galvenokārt ir radušies Silīcija ielejas viducienā, Murgija apzināti izvairās no šīs inovāciju mekas un uz priekšu nes ikdienas cilvēku visā pasaulē pieredzi, kuri cīnās ar MI sekām. Šādi viņa piesaista mūsu uzmanību uz steidzamu nepieciešamību pēc visaptverošas izpratnes par to, kālielojamas ir MI seku ietekme uz sabiedrību.
Bieži uzdotie jautājumi
1. Kas ir mākslīgā intelekta (MI)?
Mākslīgā intelekta, bieži saukta par MI, ir informātikas nozare, kas nodarbojas ar inteliģentu mašīnu izveidi, spējīgu veikt uzdevumus, kas parasti prasa cilvēka intelektu. Šie uzdevumi var ietvert runas atpazīšanu, problēmu risināšanu, lēmumu pieņemšanu un paraugu atpazīšanu.
2. Kā darbojas ProKid?
ProKid ir mašīnmācīšanās sistēma, ko izstrādājuši akadēmiķi sadarbībā ar Nīderlandes policiju. Tā izmanto plašu datu klāstu, piemēram, jaunieša dzīvesvietu, attiecības, arestu reģistrus (neatkarīgi no apsūdzībām vai notiesām) un skolas apmeklējumu, lai paredzētu viņu iespējamo iesaistīšanos noziedzīgās darbībās.
3. Kādas ir MI negaidītās sekas?
Lai gan MI piedāvā daudz priekšrocību un inovāciju, tā var būt arī negaidītas sekas. Šīs sekas var rasties sakarā ar tendenciozu datu, trūkstošām pārredzamības lēmumu pieņemšanas procesā un esošo sabiedrības nevienlīdzību pastiprināšanas dēļ. Piemēram, kā norādīts “Koda atkarībā”, MI sistēmas, piemēram, ProKid, var stigmatizēt indivīdus un veicināt noziedzīgas darbības atkārtošanos.
4. Kā varētu risināt MI negatīvo ietekmi?
Lai risinātu MI negatīvo ietekmi, ir būtiski pievērst uzmanību pārredzamībai un atbildībai šo sistēmu projektēšanā un ieviešanā. Regulāras revīzijas, sabiedriskā uzraudzība un dažādas perspektīvas var palīdzēt identificēt un novērst tendences. Turklāt, etikas diskusiju veicināšana un marginalizēto kopienanu iesaistīšana lēmumu pieņemšanas procesos var nodrošināt kompetentāku MI integrāciju sabiedrībā.
*Avots: [The Guardian](https://www.theguardian.com/books/2021/oct/28/code-dependent-undoes-your-liberty-identity-and-livelihood-by-madhumita-murgia-review)*
The source of the article is from the blog shakirabrasil.info