Nesen R&D izstāde IIIT Hyderabad (IIIT-H) notika, kurā tika rīkots vairākas iedvesmojošus diskusijas, kuras piedalījās eksperti, kas iedziļinājās sarežģītajā attiecībā starp algoritmiem, etiku un pārvaldību. Ievadplēnums pievērsa uzmanību pieaugošajai “algoritmu lēmumu pieņemšanas” izmantošanai valdības praksē un tā ietekmei uz iedzīvotājiem.
Pasākuma laikā viens no gadījumu pētījumiem, kas raisīja lielu interesi, bija ‘Samagra Vedika’ programma, ko īstenoja Telanganas valdība un kurā tika izmantoti algoritmi, lai noteiktu tiesības un piešķirtu ieguvumus dažādiem labklājības programmām. Šis piemērs uzsvēra steidzamo vajadzību pēc plašākas diskusijas, lai nodrošinātu atbildīgu algoritmu sistēmu izstrādi un izmantošanu publiskajā sektorā.
Krishna Ravi Srinivas, pasniedzējs NALSAR Universitātē Law Hyderabadā un konsultants Research and Information System valstu attīstībā (RIS), iesvētīja svarīgu bažu. Viņš uzsvēra, ka daudzas algoritmu pamatotas programmas tiek izstrādātas bez visaptveroša pamata vai skaidras izpratnes par valdības tiesībām un pienākumiem. Turklāt viņš norādīja, ka šīs sistēmas bieži trūkst pareizas pārbaužus uzskatāmā fāzē un neapšaubāmiem jautājumiem.
Šajā kontekstā konstitucionālo tiesību tulkošana par tehnoloģiskām risinājumiem kļūst par svarīgu izaicinājumu. Srinivas uzsvēra nepieciešamību nodrošināt, lai algoritmi nepārkāptu konstitucionālās tiesības, vienlaicīgi nodrošinot efektīvu pārvaldību. Viņš iestājās par algoritmiem, kas ir izstrādāti un ieviesti, ņemot vērā caurspīdīgumu un taisnīgumu jau no sākuma.
Tanveer Hasan A K, Izpilddirektors Centre for Internet and Society Bengalūrā, atkārtoja bažas par tendencēm un caurspīdīgumu algoritmu lēmumu pieņemšanā. Viņš uzsvēra, ka tendences nedrīkst tikt ignorētas, bet gan izturētas kā galvenais apsvērums visā izstrādes un īstenošanas procesā. Hasan brīdināja, ka algoritmi nedrīkst kļūt par līdzekļiem, lai pastiprinātu nevienlīdzības vai ierobežotu pilsoņu piekļuvi viņu tiesībām.
IIIT-H direktors profesors PJ Narayanan arī pauda bažas par algoritmiem un AI sistēmām, kas potenciāli varētu negatīvi ietekmēt vēlēšanu rezultātus. Arvien lielāka atkarība no algoritmiem lēmumu pieņemšanā prasa nodrošināt, ka šīs sistēmas ir atbildīgas, caurspīdīgas un brīvas no manipulācijām.
Kamēr algoritmu lēmumu pieņemšana cenšas pilnveidot pārvaldību un efektivitāti, ir būtiski saskaņot etikas apsvērumus ar sniegtajām priekšrocībām. Risinot tendences, nodrošinot caurspīdību un aktīvi iesaistot pilsoņus šo sistēmu izstrādē un monitoringā, valdības var atbildīgi izmantot algoritmu spēku, lai radītu iekļaujošākas un taisnīgākas sabiedrības.
Bieži uzdotie jautājumi (BUJ)
1. Kas ir algoritmu lēmumu pieņemšana?
Algoritmu lēmumu pieņemšana ir saistīta ar algoritmu vai soļu veida procedūru izmantošanu, lai veiktu izvēles un lēmumus. Tas ietver lēmumu pieņemšanas procesu automatizēšanu, izmantojot matemātiskus vai datorzinātniskus modeļus.
2. Kāpēc algoritmu lēmumu pieņemšana pārvaldībā ir satraucoša?
Algoritmu lēmumu pieņemšana pārvaldībā raisa bažas par caurspīdību, tendencēm un potenciālu konstitucionālās tiesību pārkāpumam. Pareizo pārbaudīšanas trūkums, pamatu trūkums un nespēja novērst kļūdas var novest pie nevēlamām sekām un nevienlīdzības.
3. Kā var risināt tendences algoritmu lēmumu pieņemšanā?
Tendences risināšana algoritmu lēmumu pieņemšanā prasa proaktīvu pieeju izstrādes un īstenošanas fāzēs. Tas ietver taisnīguma apsvērumu iekļaušanu, rūpīgu pārbaudi un dažādu ieinteresēto pušu iesaistīšanos, lai identificētu un novērstu iespējamās tendences algoritmos.
Avoti:
– Centre for Internet and Society
– Research and Information System in Developing Countries (RIS)
The source of the article is from the blog japan-pc.jp