Technickí experti zdôrazňujú potrebu širšieho pohľadu pri rozvoji umelej inteligencie, aby vytvorili reprezentácie, ktoré odrážajú skutočnú škálu žien. Nedávny experiment Washington Postu s generátormi obrazov pomocou umelej inteligencie – Dalle-E od OpenAI, Midjourney a Stable Diffusion – odhalil znepokojivý vzor: väčšina obrazov zobrazovala ženy s bežnými krásnymi klišémami, ako sú mladé, štíhle, s veľkými očami a perami, a dlhými, často tmavými vlasmi.
Upravením vstupu na „normálna žena“ systémy umelej inteligencie zobrazovali viac rozmanitosti vo veku a účesoch, ale stále sa držali obmedzenej palety voči štýlu a farbách odevov – často neutrálne, jemné a minimalistické, s prevahou nohavíc. Avšak keď umelej inteligencii bola dôkaz na vytvorenie obrázkov žien s nadváhou, reprezentácie ukazovali len mierne nadváhu, nezlučujúc sa so skutočnosťou, že viac ako 40% dospelých v USA je obéznych. Ďalej, keď inštrukcie vyžadovali prehnané črty, ako sú „širší nos“ alebo „ošklivá žena“, výsledné obrázky boli nevšedné a dokonca neúctivé, zdôrazňujúc eticky pochybné prvky zapracované do umelej inteligencie, buď vedome alebo nevedome.
Zdroje používané na trénovanie systémov umelej inteligencie sú často uvádzané ako korene problému, pretože videnie žien predstavené v týchto aplikáciách sa zdá byť ovplyvnené anime, videohrami, superhrdinskými filmami a dokonca aj starými príbehmi Disney. Zvlášť znepokojujúci fakt je, že mnohé algoritmy umelej inteligencie boli pôvodne trénované na obrázkoch z webov pre dospelých, čo zavádza hlboko problematické predsudky, ktoré vývojári teraz snažia vymazávať.
Odrážka proti „vznesenej“ umelej inteligencii, ktorá sa príliš zameriava na pohlavie a rasové aspekty, sa už začala, podnecujúc priemysel, aby uvažoval o dôležitosti etiky v programovaní a zahrnul realistický a inkluzívny rad skúseností do reprezentácií umelej inteligencie.
Význam rôznorodých pohľadov v umelej inteligencii
Nutnosť zahrnúť rôznorodé perspektívy do programovania umelej inteligencie (UI) vychádza z cieľa vytvárať technológie, ktoré sú spravodlivé, nezaujaté a odzrkadľujú globálnu populáciu. Monokultúrny alebo úzky pohľad počas vývojového procesu môže viesť k nedostatku reprezentácie a šíreniu stereotypov. Použitie rôznych trénovacích datasetov z rôznych demografií je kľúčové pre dosiahnutie nezaujatých systémov umelej inteligencie.
Klíčové otázky a výzvy
Základné otázky zahŕňajú:
1. Ako môže byť rôznorodosť v umelej inteligencii efektívne meraná a zlepšená?
2. Aké sú dôsledky zaujatosti umelej inteligencie pre spoločnosť?
3. Kto je zodpovedný za zabezpečenie rôznorodosti umelej inteligencie?
Odpovedanie na tieto otázky zahŕňa riešenie hlavných výziev:
– Zabezpečenie, aby tímy, ktoré navrhujú a trénujú umele inteligencie, zahŕňali širokú škálu pozadí a perspektív.
– Identifikácia a zabezpečenie trénovacích datasetov, ktoré sú voľné od historických predsudkov a zobrazujú skutočnú rôznorodosť populácie.
– Vytváranie algoritmov, ktoré nezakladajú stereotypy ani ne-diskriminujú žiadnu skupinu.
– Implementovanie transparentných usmernení a auditačných mechanizmov pre trénovanie a výstupy umelej inteligencie.
Kontroverzie
Debaty často vznikajú okolo rovnováhy medzi etickým programovaním a slobodou vývojárov tvoriť umele inteligencie podľa dopytu na trhu. Ďalej je sporné, do akej miery by malo byť umelej inteligencie „vznesene“, keďže rôzne sektory spoločnosti majú odlišné názory na politickú korektnosť a reprezentáciu.
Výhody a nevýhody
Výhody:
– Rôznorodá umele inteligencia môže pomôcť obmedziť udržiavanie stereotypov a predsudkov.
– Umožňuje generovanie zahrnujúcejšej a reprezentatívnejšej analýzy údajov.
– Rôznorodosť v umelej inteligencii môže viesť k lepšiemu rozhodovaniu a predpovedaniu, keďže by zachytila širší spektrum ľudských skúseností.
Nevýhody:
– Zachytenie veľkých a rôznorodých datasetov môže byť náročné a nákladné na získanie a udržiavanie.
– Hrozba odporu zo strániek spoločnosti, ktoré môžu vidieť tieto úsilie ako zbytočné alebo príliš politicky korektné.
– Neustále monitorovanie a aktualizovanie systémov umele inteligencie, aby odzrkadľovali spoločenské zmeny, môže byť komplikované a náročné na zdroje.
Pre komplexné recenzie a trvajúce diskusie o umelej inteligencii a rôznorodosti, zvážte návštevu renomovaných technických a AI zameraných webových stránok, ako je AI Lab MIT alebo DeepMind.
The source of the article is from the blog papodemusica.com