Predlog, da se neodvisnim hekerjem zakonito dovoli obvoz digitalnih varnostnih ukrepov za preiskovanje AI modelov glede pristranskosti in diskriminacije, pridobiva na zagonu. Cilj je povečati preglednost pri razvoju AI tehnologije in zagotoviti, da so ti sistemi pošteni in brez pristranskosti.
Predlog, ki trenutno poteka v preglednem postopku pri Uradu za avtorske pravice v Združenih državah Amerike, bi omogočil raziskovalcem obvod nadzorov dostopa in dostop do varnih AI modelov izključno za namen preučevanja pristranskosti. To bi vključevalo priljubljene generativne AI izdelke, ki jih ponujajo podjetja kot so OpenAI, Microsoft, Google in Meta Platforms.
Skupine zagovornikov, vključno s Svetom za hekersko politiko, trdijo, da je ta izjema nujna za preverjanje zanesljivosti in poštenosti AI sistemov. Z omogočanjem neodvisnim raziskovalcem preizkušanje in odkrivanje morebitnih napak, lahko pomaga pri preprečevanju rasne diskriminacije AI sistemov ali ustvarjanju škodljivega vsebino, kot so sintetični materiali za zlorabo otrok.
Podporniki predloga, vključno z zakonodajnimi strokovnjaki in industrijskimi strokovnjaki, verjamejo, da se zanašanje samo na AI ponudnike ni dovolj za zagotavljanje integritete in varnosti teh sistemov. Izjema se ujema z nedavnim izvršnim naročilom predsednika Bidna o AI, ki poudarja potrebo po naslavljanju vprašanj pristranskosti pri razvoju AI.
Predlog je prejel podporo podjetij za kibernetsko varnost, skupin za politiko ter tehnoloških velikanov, kot so Google in Microsoft. Te skupine trdijo, da bi izjema omogočila raziskovalcem prepoznavanje in odpravljanje pristranskosti, kar bi privedlo do bolj zaupanja vrednih algoritmov in sistemov.
Vendar pa se lahko pojavi nasprotovanje predlogu, zlasti s strani tistih, ki menijo, da so njihovi AI modeli strogo tajni in lastniški. Takšno nasprotovanje lahko izhaja iz skrbi glede morebitne zlorabe izjeme.
Ko pregledni postopek še naprej poteka, ostaja videti, ali bo omogočanje neodvisnim hekerjem preiskovanje AI modelov glede pristranskosti in diskriminacije postalo resničnost. Vendar je predlog sprožil ključno razpravo o potrebi po preglednosti in odgovornosti pri razvoju AI tehnologije.
The source of the article is from the blog girabetim.com.br