Esztelen mesterséges intelligencia eszközök mutatnak veleszületett faji elfogultságokat, ami aggasztó tendencia komoly társadalmi következményekkel. Ezek az eszközök gyakran tévesen azonosítanak sötétebb bőrű egyéneket és előítéletesek a nyelvi feldolgozásban olyan kifejezésekkel szemben, amelyeket hagyományosan nem azonosítanak a fehér beszélőkkel.
Az Egyesült Államokban a bűnüldözés által használt arcfelismerő mesterséges intelligencia azonosítani próbál embereket nagy fotó adathalmazokból. Mégis jelentősen hibázik, amikor sötétebb bőrű egyénekről van szó – különösen nőkről – a hibaszázalék akár 35%-ra is emelkedhet.
Az AI technológia továbbra is nyugtalanságot kelt a szakértők körében a faji azonosításban és a nyelvi elfogultságokban mutatott tartós hibák miatt. A legújabb eredményeket az Allen Institute for AI Valentin Hofmann által publikált tanulmányai emelik ki, amelyek rámutatnak, hogy az afroamerikai vernakuláris angol (AAVE) a OpenAI GPT-4 és a Google T5 modelleken keresztül feldolgozva egy zavarba ejtő „rejtett rasszizmust” eredményezhet, ahol a hipotetikus bírálatok szigorúbbak az AAVE beszélők esetében, még a halálbüntetést is javasolva a szimulált gyilkossági tárgyalásokon.
A technológiai iparág sokszínűtlensége táplálja az AI elfogultságát. A lényegi probléma a mesterséges intelligencia fejlesztő közösség homogenitásából fakad, mely hagyományosan fehér férfiak által dominált. Annak ellenére, hogy a számítástechnika végzősei között enyhe növekedés tapasztalható a sokszínűségben, és a Nagy Tech cégek is erőfeszítéseket tesznek, a kiemelkedő egyenlőtlenségek fennmaradnak.
A technológiai óriások felismerik ezeket a kihívásokat. Az OpenAI ezeket az elfogultságokat „hibák, nem jellemzők” -ként jellemezte és kifejezte szándékát a demográfiai képviselet javításában az AI modellek értékelésében, azok kulturális félreértések és teljesítménykülönbségek mérséklése érdekében a technológiájában.
Kulcskérdések és válaszok:
Milyen következményekkel jár a faji elfogultság az AI-ban?
A faji elfogultság az AI-ban igazságtalan bánásmódot és megkülönböztetést eredményezhet, különösen kritikus területeken, mint a bűnügyi igazságszolgáltatás, toborzás, hitelminősítés és az igazságszolgáltatási rendszer. Az elfogultság alááshatja az AI technológiákba vetett bizalmat és megerősítheti a rendszerszintű egyenlőtlenségeket.
Miért jelentkezik az AI-ban a faji elfogultság?
Az AI adatainak köszönhető, ha az adatok elfogultak, az AI valószínűleg ezen elfogultságokat örökli. A technológia terén tapasztalható sokszínűség hiánya azt jelenti, hogy az AI tanítására használt adathalmazok és nézőpontok nem feltétlenül képviselik megfelelően az összes faji csoportot. Az elfogult annotációk és a kisebbségek alulreprezentáltsága a tanítási adatokban hozzájárulnak ehhez a problémához.
Mit tesznek annak érdekében, hogy kezeljék a faji elfogultságot az AI-ban?
Az erőfeszítések, hogy kezeljék a faji elfogultságot az AI-ban, magukban foglalják a képzési adathalmazok sokszínűsítését, algoritmikus igazságossági intézkedések kidolgozását és a sokszínűség előmozdítását az AI fejlesztési csapatokban. Olyan szervezetek, mint az Artificial Intelligence Now Institute és az Algorithmic Justice League aktívan kutatnak és érvelnek az igazságosabb AI gyakorlatokért.
Kihívások és viták:
A kihívások az összes elfogultsági forrás azonosításában állnak, részletes adathalmazok létrehozásában és erős algoritmusok kifejlesztésében, amelyek hatékonyan képesek megszüntetni ezeket az elfogultságokat. Viták merülnek fel az AI esetleges visszaéléséből és a fejlesztők, cégek felelősségéből, amikor az elfogultságok kárt okoznak.
Előnyök és hátrányok:
Előnyök:
– Az AI képes automatizálni és javítani a döntéshozatali folyamatokat.
– Megfelelő tervezés esetén az AI lehetőséget nyújt az elfogulatlan és méltányos, objektív elemzésre adatokon alapulva.
Hátrányok:
– A faji elfogultság az AI-ban a megkülönböztetést fenntartja.
– A téves azonosítás és a nyelvi feldolgozási elfogultságok súlyos következményekkel járhatnak, például téves letartóztatások vagy elfogult munkaerő kiválasztási gyakorlatok.
További olvasnivaló az mesterséges intelligencia és azt körülvevő problémák témakörében, a következő főbb területeken biztosítanak kiterjedt forrásokat:
– OpenAI: Egy mesterséges intelligencia kutatási és alkalmazási vállalat.
– Google AI: A Google mesterséges intelligenciára fókuszáló ágazata.
– Allen Institute for AI: Egy kutatóintézet, amely az emberiségre gyakorol hatékony mesterséges intelligencia kutatásokba szenteli magát.
The source of the article is from the blog agogs.sk