I världen av artificiell intelligens (AI) döljer sig under ytan en komplex och ofta förbisedd verklighet: deltagandet av miljontals mänskliga arbetare som verkar i hemlighet. Dessa individer, från början anställda för att träna algoritmer, hamnar ofta med ansvaret att utföra en stor del av AI:s uppgifter. En nyligen publicerad rapport av The Information kastade ljus över dessa avgörande arbetare, särskilt i sammanhanget med Amazons Just Walk Out-teknik. Denna teknik, som möjliggjorde för kunder att bekvämt plocka livsmedelsvaror från butikshyllor och lämna utan behov av traditionella kassor, var beroende av över 1 000 individer i Indien som noggrant övervakade och märkta videor för att säkerställa korrekta utcheckningar.
Medan Amazon betonar på sin webbplats användningen av ”datorseende, sensorfusion och djupinlärning” i Just Walk Out, underlåter man att nämna dessa externa entreprenörer. När man ställdes frågor, klargjorde Amazon att dessa arbetare helt enkelt annoterade videor för att förbättra systemet och endast validerade en liten del av inköpsbesöken när AI-systemen inte kunde avgöra ett köp.
Denna avslöjande från Amazon fungerar som en påminnelse om att den effektiva funktionaliteten hos ”artificiell intelligens” ofta hänger på närvaron av mänskliga övervakare. Faktum är att Amazon självt har en hel affärsenhet vid namn Amazon Turk, som hjälper andra företag med att träna och driva sina egna AI-system. Oändligt många frilansare över hela världen identifierar sig som ”M-Turkers,” och enheten tar sitt namn från den berömda berättelsen om den Mekaniska Turk, en schackspelande automat från 1700-talet som styrdes i hemlighet av en dold mänsklig kontrollant.
Utbredningen av människor som arbetar i bakgrunden för synbarligen avancerad AI-teknik sträcker sig långt bortom Amazons fall. Många andra företag har misslyckats med att avslöja sitt beroende av mänskligt deltagande för att driva sina påstått toppmoderna AI-system. Facebook stängde till exempel ner sin textbaserade virtuella assistent M år 2018 efter två års drift, under vilka mänskliga arbetare användes i stor utsträckning för att träna och driva dess underliggande AI-system. På liknande sätt tvingades en startup vid namn x.ai, som övade en ”AI-personlig assistent” för att schemalägga möten, att upphöra med sina verksamheter år 2021 eftersom den hade svårigheter att uppnå verklig algoritmisk autonomi.
Ett annat exempel är den brittiska startupen Builder.ai, som marknadsförde AI-programvara kapabel att bygga appar men delvis förlitade sig på mjukvaruutvecklare i Indien och andra platser för att utföra uppgiften, enligt The Wall Street Journal.
Denna verklighet understryker den tunna linjen mellan förväntan om algoritmisk ersättning och användningen av mänskliga arbetare som en tillfällig lösning – ett tillvägagångssätt som ofta rättfärdigas av marknadsförare under täckmanteln av eventuell automatisering. Så kallad ”pseudo-AI” eller ”AI-tvättning” var vanlig även före den senaste ökningen av generativ AI-teknologier.
Till exempel, West Monroe Partners, ett företag specialiserat på företagsvärdering för riskkapitalbolag, granskade marknadsföringsmaterial som tillhandahölls av 40 amerikanska företag som var till salu 2019. Analysen avslöjade att dessa företag överdrev sina teknologiers färdigheter inom AI och maskininlärning med i genomsnitt över 30 %. På liknande vis, upptäckte MMC, ett London-baserat riskkapitalföretag att av 2 830 europeiska startups klassificerade som AI-företag, endast 1 580 legitimerade sig med den beskrivningen.
En av de uppenbara bekymren som uppstår från mänskligt deltagande inom AI är risken för integritetsintrång. Amazons användning av ”övervakad inlärning” i sina AI-system uppmanade tusentals entreprenörer att lyssna på individers kommandon till Alexa. Dock medför spridningen av vilseledande påståenden inom AI-branschen också risker.
Turligt nog ökar regleringsorganen sina ansträngningar för att ta itu med detta problem och hålla företag ansvariga för vilseledande AI-påståenden. Ismail Ramsey, den amerikanska åklagaren för Norra Kaliforniens distrikt, meddelade nyligen sin avsikt att rikta in sig på startups som vilseleder investerare om deras användning av AI innan de går ut på marknaden. Dessutom, i februari, varnade ordföranden för den amerikanska börskommissionen (SEC), Gary Gensler, för att AI-tvättning kunde bryta mot värdepapperslagar. Följaktligen nådde två investeringsföretag förlikningar värda totalt 400 000 USD med SEC för att ha överdrivit sin anställning av AI.
Även i de fall där AI-systemen är korrekt representerade är det avgörande att erkänna existensen av en omfattande bransch av dolda arbetare som stödjer många högteknologiska AI-system, ofta med minimal ersättning. Respekterade akademiker som Kate Crawford och författare som Madhumita har omfattande dokumenterat denna företeelse, belysande verkligheterna kring AI bortom glamour och hype.
FAQ
The source of the article is from the blog combopop.com.br