Umjetna inteligencija (UI) postala je tema zabrinutosti u posljednjih nekoliko godina, s mnogima koji se boje njezine sposobnosti zamijeniti poslove, širiti dezinformacije i čak predstavljati prijetnju samom ljudskom postojanju. Unatoč tim brigama, izvješće KPMG-a iz 2023. godine otkrilo je da samo dvoje od petoro ljudi vjeruje da su trenutni propisi dostatni za osiguranje sigurne uporabe UI. S obzirom na ove zabrinutosti, uloga etičkog nadzora u razvoju UI postaje sve važnija.
Jedna osoba koja je na čelu tog napora je Paula Goldman, glavna etička i humane uporabe službenica u Salesforceu. Njezin posao uključuje osiguravanje da tehnologija proizvedena od strane tvrtke bude korisna za sve. To uključuje blisku suradnju s inženjerima i voditeljima proizvoda kako bi se identificirali potencijalni rizici i razvili zaštitni mehanizmi. Također uključuje suradnju s grupom za politiku kako bi se uspostavila smjernice za prihvatljivu uporabu UI i promicanje pristupačnosti proizvoda i inkluzivnog dizajna.
Kada je upitana o etičkoj i humanoj uporabi UI, Goldman ističe važnost usklađivanja proizvoda UI s nizom vrijednosti. Primjerice, u slučaju generativne UI, točnost je ključno načelo. Salesforce neprestano radi na poboljšanju relevantnosti i točnosti generiranih modela UI ugrađivanjem dinamičnog utemeljenja, što ih usmjerava da koriste ispravne i ažurirane informacije kako bi spriječili netočne odgovore ili “halucinacije UI”.
Razgovor o etici UI dobio je zamah, s tehnološkim liderima poput Sama Altmana, Elona Muska i Marka Zuckerberga koji sudjeluju na zatvorenim sastancima s zakonodavcima kako bi raspravili regulaciju UI. Iako postoji sve veća svijest o rizicima koji su povezani s UI, Goldman priznaje potrebu za više glasova i mainstream usvajanje etičkih razmatranja u raspravama o politici.
Salesforce i druge tvrtke poput OpenAI, Googlea i IBM-a dobrovoljno su se obvezale na standarde sigurnosti UI. Goldman ističe suradničke napore u industriji, poput organiziranja radionica i sudjelovanja u etičkim savjetodavnim odborima za UI. Međutim, također prepoznaje razlike između poslovnih i potrošačkih prostora, ističući važnost postavljanja standarda i smjernica specifičnih za svaki kontekst.
Rad u području UI je izazovan i uzbudljiv. Vođe u ovom području zajednički oblikuju budućnost koja teži razvijanju pouzdanih i odgovornih proizvoda UI. Međutim, brzi napredak tehnologije znači da je kontinuirano učenje i prilagodba ključno.
Zaključno, etička uporaba UI ključna je za uspješnu integraciju u društvo. Kroz napore pojedinaca poput Paule Goldman i suradničkih inicijativa, razvoj odgovorne UI može otvoriti put prema boljoj budućnosti.
Često postavljana pitanja:
P: Koje su neke brige vezane uz UI?
O: Brige uključuju mogućnost gubitka radnih mjesta, širenje dezinformacija i prijetnje ljudskom postojanju.
P: Vjeruju li ljudi da su trenutni propisi dostatni za sigurnu uporabu UI?
O: Prema izvješću KPMG-a iz 2023. godine, samo dvoje od petoro ljudi vjeruje da su trenutni propisi dostatni.
P: Tko je Paula Goldman i koja je njena uloga?
O: Paula Goldman je glavna etička i humane uporabe službenica u Salesforceu. Njezina uloga uključuje osiguravanje da tehnologija koju tvrtka proizvodi bude korisna te blisku suradnju s inženjerima i voditeljima proizvoda kako bi se identificirali potencijalni rizici i razvili zaštitni mehanizmi.
P: Koja je važnost usklađivanja proizvoda UI s nizom vrijednosti?
O: Usklađivanje proizvoda UI s nizom vrijednosti pomaže osigurati etičku i humanu uporabu. Na primjer, točnost je ključno načelo za generativnu UI.
P: Koje su tvrtke se obvezale na standarde sigurnosti UI?
O: Salesforce, OpenAI, Google i IBM su među tvrtkama koje su dobrovoljno se obvezale na standarde sigurnosti UI.
Ključni pojmovi/jarg
The source of the article is from the blog enp.gr