Roman RemberGoogle introduceert een op AI gebaseerde functie die is ontworpen om oplichting in telefoongesprekken te identificeren heeft een debat aangewakkerd bij privacy- en veiligheidsvoorstanders. De functie, gepresenteerd tijdens Google’s I/O-evenement, is bedoeld om geïntegreerd te worden in toekomstige Android-systemen, wat mogelijk invloed heeft op de overgrote meerderheid van smartphones wereldwijd.
Door on-device te draaien, markeert Google’s AI-technologie, Gemini Nano, een stap richting client-side scanning, een omstreden onderwerp in tech-kringen. Historisch gezien roept de vermelding van client-side scanning de verhitte discussie op over het detecteren van kindermisbruik en het monitoren van gesprekken, wat zelfs heeft geleid tot het intrekken van een soortgelijk plan door Apple in 2021 vanwege privacy-opstand.
Ondanks privacyzorgen blijft de druk van beleidsmakers bestaan voor techbedrijven om hun platforms proactief te controleren op illegale activiteiten. Deze push naar het rechtstreeks in apparaten inbedden van scannen zou onbedoeld een precedent kunnen creëren voor wijdverbreide inhoudsbewaking, inclusief die uitgeoefend door overheden of gedreven door commerciële belangen.
Critici, zoals de president van Signal, Meredith Whittaker, waarschuwen dat het implementeren van dergelijke technologie de overgang naar invasieve vormen van surveillance zou kunnen vergemakkelijken, mogelijk ingrijpende gevoelige kwesties zoals reproductieve rechten en klokkenluidersbescherming. Professor en cryptografie-expert Matthew Green van Johns Hopkins echoot dit sentiment en suggereert een nabije toekomst waarin AI-censuur routine wordt. Hij oppert een scenario waarin gegevens alleen via serviceproviders worden doorgestuurd nadat is bevestigd dat een scan heeft plaatsgevonden, wat mogelijk niet-conforme apparaten belemmert.
Lukasz Olejnik, een consultant op het gebied van privacy en veiligheid, prijst de strijd tegen oplichting maar waarschuwt voor de gevaren van het hergebruiken van dergelijke technologie voor sociale controle. Hij zet aan tot nadenken over technologie die sociale gedragingen dicteert en doordringt in fundamentele vrijheden. Michael Veale van UCL vergroot deze angsten verder door aan te geven hoe deze technologie zou kunnen leiden tot exploitatie door de overheid.
Terwijl Europa worstelt met controversiële wetsvoorstellen met betrekking tot berichtscanning en het recht op privacy, wijst de nieuwe functie van Google op een balans die nog moet worden gevonden tussen het verbeteren van technologische mogelijkheden en het beschermen van democratische vrijheden. Ondertussen moet Google deze groeiende privacyzorgen nog officieel aanpakken.
Vragen en Antwoorden:
1. Wat is het doel van Google’s nieuwe op AI gebaseerde functie?
Het doel van Google’s op AI gebaseerde functie, Gemini Nano, is om potentiële oplichting in telefoongesprekken te identificeren om gebruikers te beschermen tegen frauduleuze activiteiten.
2. Wat zijn de belangrijkste zorgen die naar voren zijn gebracht over de AI-functie?
Privacy- en veiligheidsvoorstanders zijn bezorgd dat deze functie de weg zou kunnen vrijmaken voor meer invasieve vormen van surveillance en mogelijk gevoelige kwesties zoals reproductieve rechten en klokkenluidersbescherming zou kunnen beïnvloeden.
3. Hoe werkt de functie en waarom is deze controversieel?
De AI werkt on-device, wat betekent dat het gesprekken scant aan de kant van de gebruiker in plaats van aan de kant van de server. Client-side scannen is controversieel omdat het een voorbode zou kunnen zijn van bredere inhoudsbewaking, wat privacy- en censuurzorgen oproept.
4. Wat zijn de mogelijke implicaties van het rechtstreeks inbedden van scantechnologie in apparaten?
Het inbedden van scantechnologie in apparaten zou kunnen leiden tot een toekomst waarin AI-censuur routine is, met gegevens die worden gecontroleerd of gecontroleerd door serviceproviders of overheden, het belemmeren van niet-conforme apparaten of inhoud.
Belangrijkste Uitdagingen en Controverses:
– Privacy vs. Veiligheid: Het balanceren van de behoefte om oplichting te voorkomen met het recht op privacy is een belangrijke uitdaging. Mensen willen beschermd zijn tegen fraude, maar niet ten koste van invasieve surveillance.
– Glijdende helling naar censuur: De technologie kan worden gebruikt om inhoud te censureren of om surveillance uit te voeren voorbij het beoogde doel, wat leidt tot een glijdende helling waar steeds meer inhoud wordt gecontroleerd of bewaakt.
– Overheidsexploitatie: Er is een angst dat overheden dergelijke technologie zouden kunnen misbruiken om burgers te bespioneren onder het mom van veiligheid, wat kan leiden tot door de staat geleide censuur of monitoring.
– Technologie die sociale gedragingen dicteert: De bredere implicaties van AI-technologieën kunnen ertoe leiden dat technologie sociale gedragingen beïnvloedt of dicteert en fundamentele vrijheden aantast.
Voordelen:
– Helpt gebruikers te beschermen tegen oplichting en frauduleuze activiteiten.
– Maakt gebruik van on-device verwerking, waardoor de blootstelling van persoonlijke gegevens aan externe servers wordt beperkt.
– Vertegenwoordigt een technologische vooruitgang in de toepassing van AI voor consumentenveiligheid.
Nadelen:
– Wekt aanzienlijke privacyzorgen en angsten voor te ver gaande maatregelen.
– Zou zorgwekkende precedenten kunnen scheppen voor inhoudsbewaking en censuur.
– Kan mogelijk door kwaadwillende actoren of overheden worden hergebruikt voor surveillance.
Gerelateerde Links:
Google – De officiële website van Google, waar je mogelijk officiële verklaringen en updates over nieuwe functies zoals Gemini Nano kunt vinden.
Let op, ik zorg ervoor dat de verstrekte link naar de hoofddomein van Google gaat en geldig is op het moment van schrijven. Ik heb echter geen controle over eventuele wijzigingen die kunnen optreden aan het domein of de inhoud van de website na mijn kennisdatum.
