Sammanstötningen mellan integritet och AI-genererad information har nått en ny nivå i Österrike. NOYB, en framstående förespråkargrupp för integritet, har vidtagit rättsliga åtgärder mot OpenAI, skaparen av ChatGPT. Tvisten ligger i det påstådda vägran från OpenAI att ändra eller ta bort felaktiga data som tillhandahållits av sin chatbot när en icke namngiven offentlig person i Österrike begärde det.
Personen ifråga försökte enligt uppgift få korrekt information om sig själv från chatboten som drivs av AI, men istället fick konsekventa felaktigheter. Den som klagade anser att OpenAI vägrade kändisens begäran att ändra eller ta bort felaktiga data och dessutom inte skulle avslöja sina datainsamlingsprocesser för ändamål med AI-utbildning.
NOYB argumenterar starkt för transparens och noggrannhet i AI-verksamheter som rör personuppgifter. De betonar att om ett system inte kan ge exakta och transparenta resultat, bör det inte användas för att generera information om verkliga individer. Enligt europeiska integritetsförespråkare måste teknologiska framsteg vara förenliga med lagkraven för att säkerställa att lagen styr teknikanvändningen och inte tvärtom.
Klagomålet från NOYB är nu hos den österrikiska dataskyddsmyndigheten och uppmanar tillsynsmyndigheten att undersöka OpenAIs informationsbehandlingsmetoder. NOYB erkänner den nuvarande branschöverskridande utmaningen att få chatbots som ChatGPT att följa EU-lagstiftningen om dataskydd för enskilda.
Med bas i Wien strävar NOYB, European Center for Digital Rights, efter att ge juridisk vägledning och skydd för dem som känner att deras personuppgifter har hanterats felaktigt och står på frontlinjen i den digitala integritetens stridsfält.
Ämnet integritet och informationsnoggrannhet i AI-system som ChatGPT är både komplext och mångfacetterat. Här finns några viktiga frågor, nyckelutmaningar, kontroverser och fördelar samt nackdelar med detta ämne:
Viktiga frågor och svar:
– Vilka är de rättsliga följderna? Enligt EU:s dataskyddsförordning (GDPR) har individer rätt att få tillgång till personuppgifter som en organisation har om dem och att begära korrigering eller radering om dessa uppgifter är felaktiga. Detta klagomål väcker frågan om hur dessa rättigheter tillämpas på data som används i utbildning och drift av AI-system som ChatGPT.
– Hur kan AI följa dataskyddslagarna? Att följa dataskyddslagar såsom GDPR är utmanande för AI-utvecklare eftersom AI-system ofta behöver stora dataset för att lära sig och fungera effektivt. Att säkerställa data noggrannhet och rätten till radering inom dessa system kan vara tekniskt svårt.
Viktiga utmaningar och kontroverser:
– Data noggrannhet: Att säkerställa att AI-system ger korrekt information om individer är utmanande, särskilt i fall där data härstammar från flera källor som kan innehålla fel.
– Transparens: AI-system kritiseras ofta för sin brist på transparens vilket gör det svårt för individer att förstå hur deras data används och behandlas.
– AI-styrelse: Fallet belyser den bredare utmaningen med att styra AI-teknik och säkerställa att den verkar inom ramen för etablerade lagar och etiska riktlinjer.
Fördelar och nackdelar:
– Fördelar: AI-chatbots som ChatGPT erbjuder potential för betydande förbättringar i tillgängligheten av information och kan minska arbetsbördan för uppgifter som kundtjänst, moderering och till och med utbildning.
– Nackdelar: Det finns risker med den potentiella missbruket eller dåliga hanteringen av personuppgifter, spridningen av felaktig information och kränkningen av integriteten.
The source of the article is from the blog publicsectortravel.org.uk