När rekryteringsplattformar driven av artificiell intelligens blir alltmer populära kan högt kvalificerade kandidater finna sig själva uteslutna från intervjuprocessen. Trots att dessa plattformar utformades för att förbättra rekrytering och minska snedvridningar vid anställning, tror vissa experter att de felaktigt sållar kandidater och förhindrar att de bästa kandidaterna övervägs.
Enligt Hilke Schellmann, biträdande professor i journalistik vid New York University, kan dessa AI-verktyg för sållning innebära en större risk för jobbsökare genom att förhindra att de får en roll överhuvudtaget, istället för att ersätta dem med maskiner. Medan företag hoppas att dessa teknologier ska eliminera snedvridningar i rekryteringsprocessen, finns det begränsade bevis för att stödja detta. Istället ökar oron för att AI oavsiktligt kan utesluta kvalificerade kandidater.
Vissa kandidater har redan stött på problem med dessa rekryteringsplattformar. Anthea Mairoudhiou, en makeupartist baserad i Storbritannien, delade sin erfarenhet av att bli utvärderad både utifrån tidigare prestationer och genom ett AI-verktyg för sållning. Trots att hon fick högt betyg i bedömningen av sina färdigheter ansåg AI-verktyget utifrån kroppsspråksanalys att hon inte var lämplig för tjänsten. Liknande klagomål har framförts mot andra plattformsleverantörer.
En av de största problemen med AI-rekryteringsteknik är avsaknaden av transparens. Kandidater vet sällan om dessa verktyg är den enda anledningen till avslag, eftersom företagen inte offentliggör utvärderingskriterier. Det finns flera exempel på systematiska brister, såsom åldersdiskriminering och könsdiskriminering, där snedvridningar är tydliga. Men i andra fall kan snedvridningar vara dolda. Till exempel upptäckte Schellmann att en AI-intervjuevaluering gav henne höga betyg trots att hon pratade ett annat språk än det som krävdes, medan hennes relevanta meriter fick ett dåligt betyg.
Enligt Schellmann kan marginaliserade grupper vara de som påverkas mest av snedvridna urvalskriterier. Kandidater från olika bakgrunder eller med icke-traditionell utbildning kan filtreras bort på grund av förutfattade meningar om vad som gör en bra kandidat. Detta problem kommer troligen att förvärras när AI-tekniken blir mer utbredd och används av större företag.
Det är avgörande att ta itu med dessa problem och se till att AI-tekniker som används i rekryteringsprocesser är rättvisa och opartiska. Sandra Wachter, professor i teknik och reglering vid University of Oxford’s Internet Institute, tror att opartisk AI inte bara kan uppfylla etiska och juridiska krav, utan också öka ett företags lönsamhet. Hon föreslår att man använder verktyg som Conditional Demographic Disparity, som identifierar snedvridningar och möjliggör justeringar för att skapa rättvisare och mer precisa system.
Sammanfattningsvis erbjuder AI-driven rekryteringsplattformar effektivitet och potentiella förbättringar av rekryteringsprocessen, men det finns oavsiktliga konsekvenser som måste hanteras. Uteslutning av högt kvalificerade kandidater på grund av felaktigt sållning och snedvridningar belyser behovet av transparens, reglering och kontinuerlig förbättring av dessa teknologier. Företag måste sträva efter rättvisa och jämlikhet i sina anställningspraxis för att undvika diskriminering och säkerställa att de verkligen väljer de bästa kandidaterna för jobbet.
FAQ
Fråga: Vad är AI-driven rekryteringsplattformar?
Svar: AI-driven rekryteringsplattformar är teknologier som används av företag för att förbättra rekryteringsprocessen och minska snedvridningar vid anställning. Dessa plattformar använder artificiell intelligens för att sålla jobbsökande.
Fråga: Utgör AI-verktyg för sållning en risk för jobbsökare?
Svar: Ja, vissa experter tror att AI-verktyg för sållning kan utgöra en större risk för jobbsökare genom att förhindra dem från att få en roll överhuvudtaget istället för att ersätta dem med maskiner.
Fråga: Tar AI-teknik bort snedvridningar från rekryteringsprocessen?
Svar: Det finns begränsade bevis för att stödja påståendet att AI-teknik tar bort snedvridningar från rekryteringsprocessen. Faktum är att oron växer för att AI oavsiktligt kan utesluta kvalificerade kandidater.
Fråga: Har kandidater stött på problem med AI-rekryteringsplattformar?
Svar: Ja, vissa kandidater har stött på problem med AI-rekryteringsplattformar. Till exempel har vissa kandidater fått negativa utvärderingar av AI-verktyg för sållning trots att de fått höga betyg i bedömningen av sina färdigheter.
Fråga: Vad är ett stort problem med AI-rekryteringsteknik?
Svar: Ett stort problem med AI-rekryteringsteknik är bristen på transparens. Kandidater vet ofta inte om dessa verktyg är den enda anledningen till avslag, eftersom företagen inte offentliggör utvärderingskriterier.
Fråga: Vem kan påverkas mest av snedvridna urvalskriterier i AI-rekryteringsplattformar?
Svar: Marginaliserade grupper, kandidater från olika bakgrunder eller med icke-traditionell utbildning, kan vara de som påverkas mest av snedvridna urvalskriterier i AI-rekryteringsplattformar.
Definitioner
– AI-driven rekryteringsplattformar: Teknologier som använder artificiell intelligens för att sålla jobbsökande och förbättra rekryteringsprocessen.
– Snedvridningar: Förutfattade meningar eller preferenser som resulterar i orättvis behandling eller ojämlika möjligheter.
– Marginaliserade grupper: Grupper av människor som är missgynnade eller diskrimineras i samhället på grund av olika faktorer som ras, kön eller socioekonomisk status.
– Transparens: Öppenhet och tydlighet i processer, kriterier och beslutsfattande.
Relaterade länkar
The New York Times – ”Artificially Intelligent Lawyers Make Smarter Hiring Decisions”
CSO Online – ”9 ways to fight bias in AI systems”
The source of the article is from the blog lisboatv.pt