Umelá inteligencia (AI) sa stala neoddeliteľnou súčasťou našich životov, ovplyvňujúc spôsob, akým vnímame digitálny svet. Avšak existuje rastúca obava o vplyv týchto algoritmov na marginalizované komunity, najmä na čiernych ľudí. Nedávne incidenty týkajúce sa Gemini AI od Googlu poukázali na trvajúcu obeť čiernych jednotlivcov technológiami AI.
Produkt Gemini AI, ktorý konvertuje text na obrázky, čelil silnej kritike kvôli chybám vo výstupe. Namiesto toho, aby sa zaoberal koreňovými príčinami problémov, Google sa rozhodol stiahnuť produkt offline. Táto impulzívna reakcia neuznáva hlbší problém – systémový sklon inherentný v AI algoritmoch.
Algoritmické nástroje, ktoré pretrvávajú klamstvá, stereotypy a diskrimináciu, nie sú novým fenoménom. Safiya Noble vo svojom výskume z roku 2018 zdôraznila, že vyhľadávania pre „čierne dievčatá“ na Google vyvolali alarmujúce množstvo pornografického a ponižujúceho obsahu. Okrem toho sa zistilo, že AI zdravotné algoritmy odporúčajú menej liečebných postupov pre čiernych pacientov v porovnaní s inými.
Jedným výrazným príkladom sklonu je u vizuálnych AI platform ako Gemini. Keď je vyzvaná na vizualizáciu tmavokožých jednotlivcov z rôznych uhlov, algoritmus konzistentne zosvetľuje ich pleť vo vyšších pozíciách. To nakoniec vedie k finálnemu obrazu s bielymi rysmi. Tieto výstupy jasne ukazujú vzor vylúčenia a zavádzania, no technologické spoločnosti zodpovedné za ne urobia málo na ich riešenie.
Veľké technologické spoločnosti často reagujú na obvinenia z algoritmickej rasizmu zdvojnásobením svojich existujúcich technológií. Aj keď sa občasné ospravedlnenia stanú, často slúžia iba ako prázdne reči, chýbajú v ňom konkrétne kroky. Je to ostrý kontrast k rýchlym reakciám na škandály, ktoré neznamenajú trvalé škody, ako je zavádzanie historických postáv alebo superhrdinov.
Následky takýchto algoritmických sklonov prekračujú obyčajné pocity. Vyšetrenie ProPublicy v roku 2017 odhalilo, že detekčné algoritmy na hate speech na Facebooku nerovnomerne označili príspevky od čiernych detí a dovolili nenávistný obsah od bie
title
The source of the article is from the blog tvbzorg.com