Novi propisi Bijele kuće usmjereni su na reguliranje korištenja sustava umjetne inteligencije (AI) od strane saveznih agencija. Ovi pravila su dizajnirana kako bi zaštitila od potencijalne diskriminacije i rizika nadzora povezanih s tehnologijom umjetne inteligencije. Memorandum Ureda za upravljanje proračunom postavlja “prakse minimalnog ublažavanja rizika” koje agencije moraju slijediti prije implementacije sustava umjetne inteligencije. Ove prakse uključuju procjene utjecaja koje razmatraju potencijalne rizike za marginalizirane zajednice, procjenu prikladnosti umjetne inteligencije za određene zadatke i kontinuirano praćenje stvarnih performansi. Nepoštivanje ovih praksi ili otkrivanje povreda sigurnosti ili prava rezultiralo bi zabranom korištenja umjetne inteligencije. Memorandum stavlja naglasak na osiguravanje zaštite od algoritamske štete.
Međutim, dok propisi nude sveobuhvatnu zaštitu, također daju agencijama znatnu diskreciju da se izuzmu od ključnih zaštitnih mjera. Ova široka sloboda koju agencijama daju izuzeća podložna su kritici propisa. Nejasni kriteriji, poput procjene potencijalnih rizika za sigurnost ili prava općenito, mogu dovesti do zloupotrebe diskrecije. Također, pravne rupe koje omogućuju izuzeća ako se AI ne smatra “glavnim temeljem” za donošenje odluka podsjećaju na izuzeća koja su oslabila propise o pristranosti AI u prošlosti. Ovi regulatorni propusti već su rezultirali diskriminatornim ishodima, poput algoritama za prepoznavanje lica koji nerazmjerno utječu na crnačke tražitelje azila i loših prediktivnih algoritama koji utječu na odluke o puštanju iz saveznih zatvora.
Osim toga, ovlasti za donošenje odluka o izuzećima od minimalnih praksi isključivo leže u rukama imenovanih glavnih službenika za umjetnu inteligenciju (CAIOs) agencija. Iako su ovi službenici odgovorni za nadzor korištenja umjetne inteligencije, slabosti u mehanizmima samopolicije agencija, poput nedovoljnog broja stražara privatnosti i civilnih prava, predstavljaju prijetnju učinkovitom nadzoru. Diskrecija koju primjenjuju CAIOs je konačna i ne podliježe žalbi, što izaziva zabrinutost za odgovornost i transparentnost.
Kako bi se povećala učinkovitost OMB memoranduma, federalne agencije trebaju ograničiti izuzeća i odbacivanja na iznimne okolnosti. Prioritet treba biti povjerenje javnosti ispred brzine i tajnovitosti te osigurati jasna objašnjenja odluka koje se donose. OMB bi trebao provjeriti i ponovno procijeniti odluke ako se zloupotrebljavaju izuzeća i odbacivanja. Međutim, konačna odgovornost za donošenje sveobuhvatnih zaštita AI-a leži u Kongresu. Zakonodavci imaju moć da zakonodavno utvrde zaštitne mjere i uspostave neovisne mehanizme nadzora. S obzirom na potencijalnu štetnost tehnologije umjetne inteligencije, očuvanje širokih propustića previše je riskantno.
FAQs
The source of the article is from the blog coletivometranca.com.br