In de wereld van kunstmatige intelligentie (AI) ligt onder de oppervlakte een complexe en vaak over het hoofd geziene realiteit: de betrokkenheid van miljoenen menselijke werkers die in het geheim opereren. Deze individuen, oorspronkelijk aangenomen om algoritmen te trainen, eindigen vaak met de verantwoordelijkheid voor het uitvoeren van een groot deel van de taken van de AI. Een recent rapport van The Information wierp licht op deze essentiële werkers, met name in de context van de Just Walk Out-technologie van Amazon. Deze technologie, die klanten in staat stelt om handig boodschappen van winkelschappen te pakken en te vertrekken zonder de noodzaak van traditionele kassa’s, vertrouwde op meer dan 1.000 individuen in India die nauwlettend video’s bekeken en labelden om nauwkeurige afrekeningen te garanderen.
Terwijl Amazon op haar website de inzet van “beeldherkenning, sensorfusie en diep leren” in Just Walk Out benadrukt, verzuimt het melding te maken van deze offshore aannemers. Toen hierover vragen werden gesteld, verduidelijkte Amazon dat deze werknemers eenvoudigweg video’s aan het annoteren waren om het systeem te verbeteren en slechts een klein deel van de winkelbezoeken valideerden wanneer de AI-systemen niet in staat waren tot aankoopbepaling.
Deze onthulling van Amazon dient als een schrijnende herinnering dat de effectieve werking van “kunstmatige intelligentie” vaak afhangt van de aanwezigheid van menselijke toezichthouders. Amazon heeft zelfs een hele afdeling genaamd Amazon Turk, die andere bedrijven helpt bij het trainen en bedienen van hun eigen AI-systemen. Talloze freelancers over de hele wereld identificeren zichzelf als “M-Turkers,” en de eenheid ontleent zijn naam aan het bekende verhaal van de Mechanical Turk, een 18e-eeuwse schaakspelende automaat die in het geheim werd bestuurd door een verborgen menselijke operator.
De aanwezigheid van mensen die achter de schermen werken van ogenschijnlijk geavanceerde AI-technologie strekt zich veel verder uit dan Amazon’s geval. Talloze andere bedrijven hebben nagelaten hun afhankelijkheid van menselijke betrokkenheid bij het aansturen van hun verondersteld geavanceerde AI-systemen bekend te maken. Facebook bijvoorbeeld, staakte in 2018 de tekstgebaseerde virtuele assistent M na twee jaar van operaties, waarin menselijke werkers uitgebreid werden gebruikt om het onderliggende AI-systeem te trainen en te bedienen. Op dezelfde manier werd een startup genaamd x.ai, die een “AI persoonlijke assistent” voor het plannen van vergaderingen promootte, gedwongen de operaties in 2021 te staken omdat zij moeite had met het bereiken van ware algoritmische autonomie.
Een ander voorbeeld is de Britse startup Builder.ai, die AI-software op de markt bracht voor het bouwen van apps maar deels vertrouwde op softwareontwikkelaars in India en elders om die taak te volbrengen, zoals gerapporteerd door The Wall Street Journal.
Deze realiteit benadrukt de dunne lijn tussen de verwachting van algoritmische vervanging en het gebruik van menselijke werkers als een tijdelijke oplossing – een benadering vaak gerechtvaardigd door marketeers onder het mom van eventual automatisering. Dergelijke “pseudo-AI” of “AI-washing” was zelfs al wijdverbreid voor de recente opkomst van generatieve AI-technologieën.
Bijvoorbeeld, West Monroe Partners, een bedrijf gespecialiseerd in due diligence voor private equity firma’s, onderzocht marketingmateriaal verstrekt door 40 Amerikaanse bedrijven die te koop stonden in 2019. De analyse onthulde dat deze bedrijven de capaciteiten van hun technologie op het gebied van AI en machine learning gemiddeld met meer dan 30% overdreven. Op vergelijkbare wijze ontdekte MMC, een durfkapitaalfirma gevestigd in Londen, dat van de 2.830 Europese startups geclassificeerd als AI-bedrijven, slechts 1.580 daadwerkelijk bij die beschrijving paste.
Een van de voor de hand liggende zorgen die voortvloeit uit de betrokkenheid van mensen in AI is de potentiële inbreuk op de privacy. Het gebruik van “supervised learning” door Amazon in haar AI-systemen veroorzaakte dat duizenden aannemers meeluisterden naar commando’s van individuen aan Alexa. De verspreiding van misleidende claims in de AI-industrie brengt echter ook risico’s met zich mee.
Gelukkig intensiveren toezichthouders hun inspanningen om dit probleem aan te pakken en bedrijven verantwoordelijk te houden voor misleidende AI-beweringen. Ismail Ramsey, de Amerikaanse procureur voor het Noordelijke District van Californië heeft onlangs zijn intentie aangekondigd om startups die investeerders misleiden over hun gebruik van AI vóór hun beursgang aan te pakken. Bovendien waarschuwde de voorzitter van de Amerikaanse Securities and Exchange Commission (SEC), Gary Gensler, in februari dat AIwashing de effectenwetgeving zou kunnen schenden. Als gevolg hiervan hebben twee investeringsfirma’s met de SEC schikkingen getroffen tot een totaal van $400.000 wegens het overdrijven van hun inzet van AI.
zelfs in gevallen waarin AI-systemen nauwkeurig worden voorgesteld, is het cruciaal om het bestaan van een enorme industrie van verborgen werkers te erkennen die veel hoogtechnologische AI-systemen ondersteunen, vaak minimale compensatie ontvangend. Gerespecteerde academici zoals Kate Crawford en auteurs zoals Madhumita’s Code Dependent hebben deze fenomeen uitgebreid gedocumenteerd, waardoor er meer inzicht komt in de realiteiten van AI buiten de glamour en hype.
FAQ
The source of the article is from the blog maestropasta.cz