Torsdag 23. mai, Meredith Whittaker, leiar av den krypterte meldingsappen Signal, delte sine bekymringar om masseovervaking og kunstig intelligens (AI)-teknologiar. I ein samtale med AFP under VivaTech-konferansen i Paris, framheva ho at den AI-en som blir hylla i teknologibransjen er djupt rotfesta i praksisen med masseovervaking.
Når ho diskuterte samanhengen mellom overvaking og AI, peikte Whittaker ut at AI-teknologiar trivst med store datasett, som er biprodukt av forretningsmodellen for masseovervaking som stammar frå 1990-talet i USA. Denne modellen har sidan blitt den drivande økonomiske krafta bak teknologisektoren.
Whittaker, som òg er president for Signal Foundation, understreka risikoen som blir utgjort av AI-system som genererer og prosesserer store mengder data. Desse systema har makta til å kategorisere og forme livet vårt på måtar som bør vekke like stor uro. Ho understreka at nokre få overvakingskjempene styrer i stor grad bransjen, som oftast opererer utan ansvar.
Som tidlegare forskarprofessor ved New York University og ein Google-tilsett som organiserte ein arbeidsnedlegging i protest mot arbeidsforhold, er Whittaker ikkje framand for dei etiske implikasjonane av teknologi. Ho er ein sterk talskvinne for personvern og motstandar av forretningsmodellar som er avhengige av uttrekking av persondata.
Vidare framheva Whittaker ubalansen i makt der flesteparten av menneske blir utsett for AI si bruk av arbeidsgjevarar, styresmakter og politietatane i staden for å være aktive brukarar. Ho kritiserte AI-firma som hevdar å bidra til å løysa klimakrisa medan dei takkar ja til midlar frå oljeselskap og tillèt at teknologien deira blir brukt til utvinning av nye ressursar.
Whittaker avslutta med ei oppmoding til Europa om å vurdere ikkje berre å konkurrere med amerikanske AI-selskap, men å rekonstruere teknologi som tenar meir demokratiske og pluralistiske samfunn. Som ein leiande skikkelse i Signal Foundation held ho fram med å forsvare personvern og etiske omsyn i teknologibransjen.
Viktige spørsmål:
1. Kva er dei etiske bekymringane knytt til AI og masseovervaking?
2. Korleis avheng AI-teknologiar av store datamengder, og kva er konsekvensane?
3. Kva rolle spelar Signal Foundation i å fremja personvern?
4. Korleis påverkar ubalansen i makt måten AI blir nytta av samfunnet på?
5. Kva utfordringar står Europa overfor i konkurransen med amerikanske AI-selskap når det gjeld etiske og personvernsstandardar?
Svar:
1. Dei etiske bekymringane knytt til AI og masseovervaking inkluderer potensielle brot på personvern, mangel på samtykke i datainnsamling, potensielle biasar i algoritmisk beslutningstaking, bruk av data til manipulerande formål og oppretting av maktubalansar mellom dei som kontrollerer teknologien og allmennheten.
2. AI-teknologiar er avhengige av store datasett for å trene maskinlæringsmodellar, noko som betyr at dei treng enorme mengder informasjon for å forbetra nøyaktigheiten og effektiviteten deira. Konsekvensane inkluderer personvernskrenking, tryggleiksrisikoer om data blir brote, og spørsmålet om kven som eig og kontrollerer data.
3. Signal Foundation er ein ideell organisasjon dedikert til å utvikla open kjeldekode for personvernbasert teknologi som støttar ytringsfridom og mogleggjer trygg global kommunikasjon. Stiftinga er ansvarleg for Signal, ein kryptert meldingsapp som er designa for å halda brukarnes samtaler private.
4. Ubalansen i makt når det gjeld bruk av AI fører ofte til at teknologi blir nytta av arbeidsgjevarar, styresmakter og politietatar på ein måte som påverkar eller kontrollerer individ i staden for å styrkja dei. Dette kan føra til ein overvakingstilstand der borgarar blir overvaka utan samtykke eller gjennomsikt.
5. Europa står overfor utfordringa med å skapa AI-teknologiar som er i samsvar med verdiar knytt til demokratisk styring og vern av personvern. Dette inneber ikkje berre å konkurrere med amerikanske AI-selskap, men òg å fremja etisk AI-utvikling som reflekterer europeiske standardar og samfunnsmål.
Utfordringar eller kontroversar:
– Personvern vs. Innovasjon: Å finna ein balanse mellom teknologisk framgang og vern av individuelt personvern er ein stor utfordring.
– Datavernlovar: Å sikra solide datavernforskrifter, som General Data Protection Regulation (GDPR) i Europa, er avgjerande og ofte kontroversielt, særleg når dei skal håndhevast internasjonalt.
– Etisk AI-utvikling: Å utvikla AI på ein etisk måte som førebyggjer bias og respekterer menneskerettane er framleis eit område med meiningsforskjellar, der ulike interessentar har ulike interesser.
Fordelar og ulemper:
Fordelar:
– AI kan automatisera komplekse oppgåver, noko som fører til betra effektivitet og produktivitet.
– Den kan analysere store mengder data raskt, noko som hjelper i beslutningsprosessar.
– AI har potensial til å drive innovasjon på tvers av ulike sektorar, inkludert helsevesenet og transport.
Ulemper:
– AI-system kan krenka personvernet ved å samla inn og analysere persondata.
– Om ikkje nøye designa, kan AI oppretthalda biasar og diskriminering.
– Det er ein risiko for auka avhengigheit av AI, noko som kan føra til tap av menneskelege ferdigheiter og jobbar.
Foreslåtte relevante lenker:
– Signal Foundation
– VivaTech Conference
– European Commission (for GDPR og AI-politikk i EU)