AI algoritmy pro rekrutaci zaznamenaly v posledních letech významný nárůst popularity, přičemž jich přibližně 70 procent firem a 99 procent společností z Fortune 500 je začlenilo do svých procesů náboru. Avšak tyto algoritmy jsou daleko od dokonalosti a často udržují zaujatosti přítomné v datech reálného světa, na kterých byly vyškoleny. To má zvláště negativní důsledky pro jedince, kteří čelí systémové diskriminaci při náboru, včetně osob se zdravotním postižením.
New York City učinil kroky k řešení diskriminace při zaměstnávání tím, že přijal zákon Automated Employment Decision Tool Act, který vyžaduje, aby firmy používající AI pro zaměstnanecká rozhodnutí podstoupily audity. Tyto audity posuzují zaujatosti založené na pohlaví, raso-etnickém původu a intersekčních kategoriích. Avšak zákon selhává tím, že nezahrnuje postižení jako jednu z hodnotících kategorií. Toto opomenutí odráží neochotu konfrontovat algoritmické zaujatosti přítomné v nástrojích AI pro nábor, zejména pokud jde o žadatele se zdravotním postižením.
Problém spočívá nejen v nedostatku opatření k vynucování a standardů kvality kontroly, ale také v odporu vůči změnám, které projevují algoritmy, jež pohání nástroje AI pro zaměstnávání. Tyto algoritmy identifikují vzory ve školících datech a používají je ke směrování rozhodování, což vede ke zaujatým výsledkům. Tato zaujatost je zvláště patrná u žadatelů se zdravotním postižením, kteří se historicky potýkají s vyloučením z různých pracovních příležitostí. Pouhé zahrnutí více postižených profilů do školicích modelů není řešením, protože různorodost postižení a tvrdohlavost algoritmů představují významné výzvy.
Žadatelé se zdravotním postižením často čelí devalvaci jak ze strany lidských rekruterů, tak z nástrojů AI pro nábor kvůli své odchylce od striktních kvalifikačních standardů. Tyto standardy, byť použité jako prediktory budoucího úspěchu, často nemají žádný vliv na skutečnou pracovní výkonnost. Například jednotlivec, který si udělal přestávku z práce kvůli chronické nemoci, se může potýkat s obtížemi při získání pohovoru. Zatímco lidskí rekruteři mohou uplatňovat jemnost a zohledňovat úpravy požadované zákonem o Američanech se zdravotním postižením, nástroje AI pro nábor se drží diskriminačních očekávání.
Nástroje AI pro nábor nejen automatizují porušování zákona o Američanech se zdravotním postižením, ale také zavádějí nové formy kontroly a diskriminace. Tyto nástroje se snaží měřit osobnostní rysy a pracovní výkonnost žadatelů na základě faktorů jako výkony ve videohrách nebo nahrávání. Tyto posouzení však často nedokáží zohlednit jedinečné výzvy, jimž čelí osoby se zdravotním postižením. Například technologie analýzy videa se může potýkat s registrací tváří osob, které nejsou bílé, a osob se zdravotními postiženími ovlivňujícími jejich vzhled. Navíc tyto nástroje mohou špatně interpretovat mentální schopnosti a emoce, dále tak podporují diskriminaci.
Snahy o řešení těchto zaujatostí v nástrojích AI pro nábor prostřednictvím auditů jsou nedostatečné. Zaujatosti vrozené v těchto algoritmech nelze vymýtit pouhým auditováním. Aby se zajistila spravedlnost a zabránilo se zaměstnanecké diskriminaci, společnosti musí přistoupit k celkovějšímu přístupu, který přesahuje pouhá auditační opatření. Zákaz používání nástrojů AI pro nábor pro personální rozhodnutí může být nutný k narušení udržování zaujatostí.
Zákonodárci v New Yorku by měli dávat přednost odstranění nástrojů AI pro nábor místo přijímání zákonů, které poskytují polovičatá řešení. Vyhnáním se výzvě k zákazu prodlužují a zhoršují zaměstnaneckou diskriminaci poháněnou AI, zvláště ve prospěch postižených uchazečů o práci. Přišel čas, aby zákonodárci zodpovídně postavili firmy před zodpovědnost a dali přednost spravedlivému a nezaujatému zacházení se všemi uchazeči.
Časté Dotazy (FAQs)
The source of the article is from the blog klikeri.rs