Avstrijski neprofitni organizaciji, ki jo vodi aktivist za zasebnost Max Schrems, znan po kampanji “None of your business”, je sprožil pravne postopke proti podjetju OpenAI zaradi domnevnih kršitev GDPR v zvezi z modelom jezika AI ChatGPT, ki je znan po svojih pogovornih sposobnostih. Organizacija trdi, da je ChatGPT zagotavljal izmišljene odgovore o ljudeh, kadar nima natančnih informacij, kar vodi v širjenje napačnih podatkov.
Noyb je uradno zahteval preiskavo pri avstrijskem organu za varstvo podatkov in poiskal potencialne kazni ter popravne ukrepe za neuspeh OpenAI v reševanju problema. Ta pritožba se osredotoča na osnovno funkcionalnost modelov jezika AI, kot je ChatGPT, ki včasih lahko napove napačne informacije pri reševanju nalog.
Natančni osebni podatki so resna zahteva v skladu z evropsko zakonodajo že od leta 1995, GDPR pa to še dodatno okrepi. Vendar pa je bil OpenAI-jev odziv na zahtevo za dostop do in brisanje napačnega datuma rojstva razglašen za nezadostnega. GDPR zahteva, da morajo obdelovalci podatkov posameznikom omogočiti dostop do njihovih osebnih podatkov ter omogočiti brisanje teh podatkov, z določenimi izjemami. Vendar je bilo poročano, da je OpenAI zagotovil samo informacije o uporabniškem računu, ne pa podatkov o obdelavi.
Poleg tega je stališče OpenAI, da bi lahko preprečil posredovanje rojstnega datuma, vendar ne popravil napačnega datuma, privedlo do frustracij. Podjetje je navedlo pomisleke, da bi omejitev odzivov lahko vplivala na pravice državljanov do informacij, še posebej pri obravnavi javnih osebnosti.
Pritožba se prav tako osredotoča na korporativno strukturo OpenAI, pri čemer Noyb poteguje vprašanje avtonomije evropskih operacij OpenAI-ja in vložila pritožbo proti ameriškemu subjektu, odgovornemu za odločanje na podlagi podatkov.
Incident prispeva k širšemu evropskemu pogovoru o etiki in zasebnosti AI. Medtem ko je ChatGPT uporabnike navdušil s svojimi impresivnimi pogovornimi sposobnostmi od svojega začetka leta 2022, je prav tako sprožil alarme v zvezi z AI tveganji. Države, kot je Italija, so sprejele ukrepe, kot so začasne prepovedi, organ za varstvo podatkov Francije pa pregleduje številne pritožbe, kar kaže na povečano pozornost do uporabe AI v EU. Kljub tem dogodkom je zaznati zadržanost do učinkovitosti sprejetih regulativnih ukrepov. OpenAI ni komentiral, ko so ga prosili za izjavo o tem vprašanju.
Pravni postopki, ki jih je avstrijski neprofitni organizacija sprožila proti OpenAI, postavljajo več pomembnih vprašanj:
1. Kako so urejeni AI ustvarjeni odgovori, ki vključujejo informacije o posameznikih v skladu z GDPR?
– GDPR zahteva, da morajo biti osebni podatki točni in po potrebi ažurirani. Možen problem OpenAI-ja pri ustvarjanju natančnih podatkov o posameznikih izziva to zahtevo.
2. Kakšne so posledice za varstvo podatkov, ko so informacije, ki jih ustvari AI, napačne?
– Napačne informacije, ki jih ustvari AI, lahko zavedejo in potencialno škodijo ugledu ali zasebnosti posameznikov.
3. Kakšna je odgovornost OpenAI-ja glede obdelave podatkov in zagotavljanja skladnosti z GDPR?
– OpenAI, kot obdelovalec podatkov, je dolžan omogočiti dostop do osebnih podatkov za državljane EU ter omogočiti popravke ali brisanje na zahtevo, v skladu z uredbo GDPR.
Ključni izzivi ali kontroverze, povezane s to temo, se pogosto vrtijo okoli ravnotežja med tehnološkim inoviranjem ter pravicami do zasebnosti. Na primer:
– Težava pri programiranju AI, da bi se držala strogih standardov zasebnosti, določenih s strani GDPR.
– Zagotavljanje, da so odgovori AI točni in ne zavajajoči, ne da bi pri tem ogrozili učinkovito delovanje AI.
– Razmejevanje odgovornosti in pravnih obveznosti razvijalcev in upravljavcev AI v različnih mednarodnih jurisdikcijah.
Prednosti in slabosti so opazne pri uporabi AI tehnologij, kot je ChatGPT:
Prednosti:
– AI lahko obdela in analizira ogromne količine podatkov hitreje kot ljudje, zagotavlja dragocene vpoglede.
– AI lahko pospeši avtomatizacijo številnih nalog na podlagi podatkov, kar vodi v povečanje učinkovitosti.
– Izboljšana uporabniška izkušnja prek pogovornih interakcij z modeli AI, kot je ChatGPT.
Slabosti:
– AI lahko nenamerno ohranja pristranskost ali generira napačne informacije, kar vodi v negativne posledice.
– Izziv izpolnjevanja različnih mednarodnih predpisov o varstvu podatkov, kot je GDPR, je lahko tehnično in pravno kompleksen.
– Obstaja tveganje za zmanjšanje zaupanja potrošnikov v AI tehnologije, če so pogosto povezane s skrbmi glede zasebnosti ali natančnosti.
Ob upoštevanju širšega konteksta te pravne akcije kažejo na trajen in razvijajoč se dialog o tem, kako se lahko AI uskladi s strogo zakonodajo o zaščiti podatkov, kot je GDPR. To bo verjetno še naprej področje pravnega in etičnega preučevanja.
Za več informacij o Splošni uredbi o varstvu podatkov v Evropi lahko obiščete spletno mesto Evropske komisije na Evropska komisija.
Za nadaljnje razumevanje AI in njenih etičnih posledic v Evropi je Evropska zveza za AI še ena relevantna spletna stran, ki jo najdete na Strategija Digitalne.
Pomembno je vedeti, da se vsebina na teh spletnih mestih nenehno spreminja. Vedno preverite najnovejše informacije pri odločanju v zvezi z zakonodajo ali skladnostjo.