Federálne agentúry v Spojených štátoch, vrátane Ministerstva práce, Federálnej obchodnej komisie (FTC) a ďalších, potvrdili svoj záväzok bojovať proti predpojatostiam v technológiách umelej inteligencie (AI). V oficiálnom vyhlásení zverejnenom vo štvrtok zdôraznili agentúry svoju odhodlanosť využívať svoje spoločné právomoci na ochranu práv jednotlivcov, bez ohľadu na to, či k porušeniam práva dochádza prostredníctvom tradičných spôsobov alebo pokročilých technológií.
Podpisníci vyhlásenia vrátane predstaviteľov Úradu pre ochranu finančných služieb spotrebiteľov (CFPB), Komisie pre rovnaké pracovné príležitosti (EEOC) a ministerstiev spravodlivosti, bývania a mestskej obnovy, školstva, zdravotníctva a ľudských služieb, vnútra a práce.
S firmy stále viac spoliehajúcimi sa na AI pri kritických rozhodnutiach o jednotlivcoch, ako je výber uchádzačov o zamestnanie a stanovenie hypotečných sadzieb, je nevyhnutné riešiť potenciálnu existenciu predpojatostí v týchto automatizovaných systémoch. Vyhlásenie zdôrazňuje skutočnosť, že predpojatosti sa môžu dostávať do modelov AI v dôsledku chybných dát, nedostatočnej transparentnosti výkonu modelu a nesprávneho používania nástrojov AI. Tieto predpojatosti môžu mať ďalekosiahle negatívne dôsledky pri rozsiahlom nasadení týchto systémov.
„Hoci nástroje AI ponúkajú obrovský potenciál, ich využívanie má takisto potenciál udržiavať nezákonnú predpojatosť, automatizovať nezákonnú diskrimináciu a viesť k iným škodlivým následkom,“ upozornili agentúry vo svojom vyhlásení.
FTC už zasiahla proti porušeniam týkajúcim sa AI, jeden významný príklad je zákaz využívania technológie rozpoznávania tváre zo strany Rite Aid na chytanie zlodejov. FTC zistila, že technológia nesprávne označovala významné množstvo žien a ľudí farby pleti. Podobne, Úrad pre zmluvné dodržiavanie federálnych programov práce vyjadril svoj zámer vyšetriť nepriaznivé dopady vyplývajúce z používania nástrojov AI na výber.
Na ďalšie riešenie týchto otázok agentúry vrátane CFPB, EEOC a HHS vydávajú usmernenia, ktoré upresňujú, ako sa existujúce zákony uplatňujú na technológie AI. Tento proaktívny prístup federálnych agentúr naznačuje ich záväzok zabezpečiť spravodlivosť a zodpovednosť pri vývoji a nasadení systémov AI.
Toto nedávne vyhlásenie sa nadväzuje na predchádzajúce z apríla, ktoré vyhlásila FTC, EEOC, CFPB a DOJ, varujúc spoločnosti, že existujúce zákony budú dôsledne uplatňované aj v prípadoch týkajúcich sa technológií AI.
Časté Otázky
Aké hlavné obavy sú vyjadrené v tomto vyhlásení?
Vyhlásenie rieši potenciálne predpojatosti, ktoré môžu vzniknúť v AI systémoch, pričom zdôrazňuje, že chybné dáta, nejasnosť vo výkone modelu a nesprávne použitie nástrojov môžu viesť k nezákonným diskriminačným a iným škodlivým dôsledkom.
Ktoré federálne agentúry sa zaviazali k tomuto záväzku?
Zmluvy o vyhlásení zahŕňajú úradníkov Ministerstva práce, Federálnej obchodnej komisie, Úradu pre ochranu finančných služieb spotrebiteľov, Komisie pre rovnaké pracovné príležitosti a ministerstiev Spravodlivosti, Bývania a Mestskej obnovy, Školstva, Zdravotníctva a Ľudských služieb, Vnútra a práce.
Ako už FTC zasiahla proti porušeniam týkajúcim sa AI?
Jedným z príkladov vyzdvihnutých v vyhlásení je zákaz FTC na využívanie technológie rozpoznávania tváre zo strany Rite Aid na chytanie zlodejov. Technológia nesprávne označila významné množstvo žien a ľudí farby, vedúc k nespravodlivým výsledkom.
Sú nejaké usmernenia, ktoré budú vydávané na adresovanie predpojatostí AI?
Áno, agentúry ako CFPB, EEOC a HHS aktívne pracujú na vydaní usmernení, ktoré upresnia, ako sa existujúce zákony uplatňujú na technológie AI a zaistia spravodlivosť a zodpovednosť pri ich používaní.
Záväzok federálnych agentúr bojovať proti predpojatostiam v technológiách umelej inteligencie (AI) odzrkadľuje rastúci význam riešenia tohto problému v odvetví. Keďže spoločnosti stále viac spoliehajú na AI pri kritických rozhodnutiach, ako je výber uchádzačov o zamestnanie a stanovenie hypotéknych sadzieb, je nevyhnutné riešiť potenciálne predpojatosti v týchto automatizovaných systémoch.
Vyhlásenie federálnych agentúr zdôrazňuje zdroje predpojatostí v modeloch AI, vrátane chybných dát, nedostatočnej transparentnosti vo výkone modelu a nesprávneho použitia nástrojov AI. Tieto predpojatosti môžu mať ďalekosiahle negatívne dôsledky pri rozsiahlom nasadení týchto systémov.
Na riešenie týchto otázok a zaistenie spravodlivosti a zodpovednosti agentúry ako Úrad pre ochranu finančných služieb spotrebiteľov (CFPB), Komisia pre rovnaké pracovné príležitosti (EEOC) a Úrad pre zdravotníctvo a ľudské služby (HHS) vydávajú usmernenia, ktoré upresňujú, ako sa existujúce zákony uplatňujú na technológie AI. Tento proaktívny prístup federálnych agentúr naznačuje ich záväzok dodržiavať právne normy pri vývoji a nasadení systémov AI.
Federálna obchodná komisia (FTC) už zasiahla proti porušeniam týkajúcim sa AI. Jeden zmiernený príklad je zákaz FTC na využívanie technológie rozpoznávania tváre zo strany Rite Aid na chytanie zlodejov. Technológia nesprávne označila významné množstvo žien a ľudí farby, čo viedlo k nespravodlivým výsledkom. Táto akcia FTC demonštruje uplatňovanie existujúcich zákonov aj v prípadoch týkajúcich sa technológií AI.
Celé odvetvie si je vedomé potenciálnych rizík spojených s predpojatosťami v AI systémoch. Trhové prognózy predpovedajú významný rast v odvetví AI, s odhadovanou hodnotou 190,61 miliardy dolárov do roku 2025. Avšak, pre dosiahnutie tohto rastu je kľúčové riešiť predpojatosti a zaistiť spravodlivé a etické používanie technológií AI.
Pre informácie o odvetví a trhových prognózach môžete navštíviť dôveryhodné zdroje ako:
– MarketsandMarkets: Poskytuje komplexné výskumné správy a prognózy pre rôzne odvetvia, vrátane AI.
– Grand View Research: Ponúka analýzy odvetvia a trhové poznatky, vrátane technológií AI.
– Gartner: Popredná výskumná a poradenská spoločnosť, ktorá poskytuje informácie o rôznych technologických sektoroch, vrátane AI.
Tieto zdroje môžu poskytnúť cenné informácie o súčasnom stave odvetvia, trhových trendoch a vyhliadkach na budúci rast.
The source of the article is from the blog portaldoriograndense.com