Nedávne testy zistili znepokojujúci sklon k útekom v generátoroch obrazov na báze umelej inteligencie. Tieto generátory, ktoré sa stávajú čoraz dostupnejšími pre bežných užívateľov, sú navrhnuté na vytváranie obrazov na základe textových popisov.
Počas experimentu finančnej organizácie s názvom Finder, zverejneného koncom apríla, malo inteligentné zariadenie za úlohu znázorniť jednotlivcov v typických korporátnych povolaniach. Hodnotitelia inštruovali AI, aby vygenerovalo obrazy zobrazujúce desať rôznych pracovných úloh, ako sú finanční analytici, generálni riaditelia a podnikatelia.
Z 100 vytvorených obrazov inteligencia zobrazilo 99 týchto zamestnancov vyššej úrovne ako bielych mužov. Šokujúco, len jeden ilustračný obrázok zobrazoval ženu. Toto opakované správanie pokračovalo aj v prípade, keď malo AI predstaviť typického kancelárskeho asistenta. Tento návrh v 9 z 10 prípadov zobrazoval asistentku ako ženu.
Tieto zistenia poukazujú na sklon AI perpetuovať stereotypy spojené s pohlavím a rasou v pracovnom prostredí. AI spojila manažérske a vysokej úrovne finančné pozície prevažne s bielymi mužmi, zatiaľ čo administratívne alebo sekretárske úlohy často zobrazovala ako ženské role.
Tento objav zdôrazňuje dôležitosť neustáleho monitorovania odborníkmi na odstránenie týchto sklonov v technológii. Snažby o zlepšenie umelej inteligencie musia zahŕňať nielen rozvoj ich schopností, ale aj zabezpečenie fairnessu a elimináciu predsudkov z ich výstupov. Cieľom je zosúladiť vývoj umelej inteligencie s etickými štandardmi, ktoré podporujú diverzitu a rovnosť.
Najdôležitejšie otázky súvisiace s AI Generátormi obrázkov zobrazujúcimi skreslené reprezentácie profesijných rolí:
1. Čo spôsobuje skreslenie v AI generátoroch obrázkov?
Skreslenie v AI generátoroch obrázkov často pochádza z použitých datasémov, na ktorých sú trénované. Ak dáta nie sú diverzifikované alebo obsahujú existujúce ľudské sklony, AI pravdepodobne naučí sa a replikuje tieto sklony vo svojich výstupoch.
2. Ako môžu byť tieto skreslenia zmierňované?
Stratégie zmiernenia zahŕňajú použitie viac diverzifikovaných trénovacích dát, zahrnutie mierok spravodlivosti do vývoja AI a používanie techník ako zbavovanie sa skreslení na zníženie vplyvu historických skreslení.
3. Aké sú etické dôsledky skreslení AI reprezentáciami?
Skreslenie AI môže posilniť stereotypy a diskriminačné praktiky, oslabujúc úsilie o rovnosť a inkluzivitu v spoločnosti.
…