Privacy advocates in Vienna raise concerns over AI chatbot accuracy
Bečka skupina za zaštitu privatnosti poznata kao Noyb, što znači “Nitko od vašeg posla”, podnijela je pritužbu u Austriji protiv popularne platforme za chatbot umjetnu inteligenciju (AI). Glavni problem grupe je što AI ponekad generira netočne odgovore.
AI ne uspijeva točno navesti datum rođenja osnivača
Situacija istaknuta od strane Noyba uključivala je AI koji pruža netočne detalje o datumu rođenja osnivača Maxa Schremsa kada se postavljaju pitanja, prikazujući tendenciju alata da izmišlja odgovore umjesto da prizna da ih ne zna.
Poziv za tehnologiju da se pridržava pravnih standarda
Odvjetnica Maartje de Graaf, koju je spomenula Noyb, istaknula je potrebu da takvi sustavi pružaju transparentne i ispravne podatke. Istaknula je da tehnologija treba poštovati pravne standarde, a ne ih izazivati ili ignorirati, što je posebno važno s obzirom da europski zakoni o zaštiti podataka zahtijevaju točnost.
Odbijanje OpenAI-a da ispravi dezinformacije
Pritužba je proširena na odbijanje tvrtke OpenAI da ispravi ili izbriše netočne podatke, tvrdeći nemogućnost, unatoč zakonima koji kažu drugačije. Također se izvještava da je tvrtka odbila zahtjeve za pristup osobnim podacima i izvorima informacija, potencijalno kršeći prava privatnosti.
Zatražene kazne protiv OpenAI-a zbog neusklađenosti
Od svog osnutka 2018. godine, Noyb je stekao ugled držeći velike tehnološke divove odgovornima. Sada pozivaju austrijsko tijelo za zaštitu podataka da istraži i eventualno kazni kalifornijsku matičnu tvrtku AI.
Problemi i poduzete akcije širom Europe zbog rizika od AI
Nakon lansiranja u studenom 2022. godine i impresionirani njegovom sposobnošću brzog stvaranja pisanih sadržaja, korisnici su brzo prihvatili AI chatbot. Ipak, zabrinutost je dovela do regulatornih akcija širom Europe, uključujući privremenu obustavu u Italiji i nastavljenu pažnju francuskih regulatornih tijela.
Budućnost regulacije AI ostaje neizvjesna
Unatoč uspostavi europskog tima za jačanje regulatorne suradnje, Noyb ostaje oprezan i donekle skeptičan u vezi smjera tih regulatornih napora.
Važnost točnih informacija u AI sustavima
AI sustavi, posebno oni koji komuniciraju s javnošću poput chatbota, postaju sve važniji izvor informacija. Stoga je njihova točnost od presudne važnosti. Dezinformacije mogu dovesti do gubitka povjerenja u te sustave i, što je još važnije, mogu imati stvarne posljedice ako pojedinci ili organizacije djeluju na temelju lažnih informacija. Zato zagovornici privatnosti poput Noyba naglašavaju potrebu da ovi sustavi pružaju točne podatke.
EU zakoni o zaštiti podataka i AI
Europski zakoni o zaštiti podataka, poput Opće uredbe o zaštiti podataka (GDPR), imaju stroge zahtjeve u vezi s postupanjem s osobnim podacima. Ti zakoni zahtijevaju transparentnost u korištenju osobnih podataka i daju pojedincima različita prava, uključujući pravo na pristup i ispravak svojih podataka. AI sustavi koji rade s osobnim podacima moraju biti osmišljeni kako bi se uskladili s ovim propisima kako bi djelovali unutar EU.
Ključni izazovi i kontroverze
Jedan od glavnih izazova u reguliranju AI-a je usklađivanje potrebe za inovacijama i zaštitu prava korisnika, uključujući privatnost i pristup točnim informacijama. Kontroverze se također javljaju oko tehničkih ograničenja AI-a; iako su neke pogreške neizbježne, postoji tanka linija između prihvatljivih pogrešaka i sustavne dezinformacije.
Prednosti:
– AI chatboti mogu obraditi i pružiti informacije puno brže od ljudskih operatera.
– Pružaju skalabilnost, obrađujući tisuće interakcija istovremeno.
Nedostaci:
– AI može generirati dezinformacije koje možda neće biti odmah ispravljene.
– AI sustavi možda nisu potpuno transparentni, pogotovo u pogledu njihovih procesa učenja i izvora podataka.
Preporučeni povezani linkovi:
Noyb.eu
OpenAI
Europska zaštita podataka
Budući razvoji u regulaciji AI-a morat će se suočiti s ovim izazovima i stvarati okvire koji omogućavaju inovacije, ali istovremeno osiguravaju prava i zaštitu dobrobiti pojedinaca.
The source of the article is from the blog macnifico.pt