Kevin TopolskyМного AI системи могат да имат по-сложни предразсъдъци, вградени в тях, отколкото добре известните проблеми като обществени и полови предразсъдъци. Тези по-нюансирани предразсъдъци, известни като симпатия към властта, често се пренебрегват, но могат значително да се отразят върху целостността и справедливостта на изходите, произведени от изкуствен интелект.
Разгледайте скорошен случай, където инструмент за подбор, използван от известна технологична компания, нежелано насърчаваше мъжките кандидати пред жените апликантки. Причината за този предразсъдък не беше само отражение на историческите практики по набиране на персонал, но също така беше проявление на вградения в системата за изкуствен интелект предразсъдък към властта.
Въпреки че е от съществено значение да се адресират добре известните предразсъдъци, като половия предразсъдък в набирането на персонал, разработчиците и инженерите трябва също да обърнат внимание на по-малко очевидните предразсъдъци, които биха могли да влияят на алгоритмите на изкуствения интелект. Предразсъдък към властта, който довежда системите на изкуствения интелект да отдават приоритет на определени черти или качества, които може би не са свързани задължително с желаните резултати, е отличен пример за такова скрито влияние.
Като признаяват и активно работят за намаляване на предразсъдък към властта в дизайна и разработката на изкуствен интелект, можем да гарантираме, че технологията действа справедливо и точно, доставяйки наистина обективни резултати. Само чрез всеобхватно разбиране на всички потенциални предразсъдъци, както явни, така и укрити, можем да създадем AI решения, които наистина отразяват стойностите на истината и целостността.
