Umělá inteligence (AI) se stala nedílnou součástí našich životů, s technologickými giganty jako Google v čele ve vývoji a ladění AI platforem. Nicméně nedávné události poukázaly na potenciální nebezpečí a pasti spojené s AI. Skandál okolo chatbota Google Gemini, který vytvářel historicky nepřesné obrázky černých a asijských nacistických vojáků, slouží jako výstraha o síle AI a odpovědnosti, která s ní souvisí.
Kontroverze kolem chatbota Google Gemini na nedávném technologickém festivalu v Austinu, Texasu, zdůraznila významný vliv, který mají technologičtí titáni na AI platformy. Chyby AI aplikace, které dočasně zamezily uživatelům vytváření obrázků lidí kvůli generování etnicky různorodých nacistických vojáků, vyvolaly širokou kritiku a posměch na sociálních sítích. CEO Googlu, Sundar Pichai, tyto chyby označil jako „naprosto nepřijatelné“.
Zatímco Google rychle napravil chybu, incident vyvolal širší obavy ohledně kontroly, kterou mají některé společnosti nad AI platformami, které mají revoluční vliv na různé aspekty našich životů. Joshua Weaver, právník a technologický podnikatel, charakterizoval reakci Googlu na ztrátu jako příliš „otevřenou“ snahu zdůraznit začlenění a diverzitu. Charlie Burgoyne, CEO Valkyrie laboratoře aplikované vědy, přirovnal úsilí Googlu k natažení obvazu na prostřelenou ránu, zdůrazňujíc tím podstatný problém, který zůstáva nevyřešený.
Tento incident poukazuje na potřebu komplexního testování a doladění vývoje AI platforem. Rychlý pokrok v oblasti AI technologií, spojený s prudkou soutěží mezi technologickými giganty jako Google, Microsoft, OpenAI a Anthropic, nechává málo prostoru pro chyby. Weaver zdůraznil, že tyto společnosti se pohybují rychleji, než samy vědí, jak se pohybovat, čímž vytvářejí napjaté prostředí, kde jsou chyby pravděpodobnější.
Chyba sama o sobě, ačkoliv významná, také vyvolává širší otázky ohledně role AI ve společnosti. Weaver tvrdí, že tyto chyby by měly sloužit jako body počátku pro diskuse o stupeň kontroly, který mají uživatelé AI nad informacemi. V příští dekádě může AI-generovaná informace a dezinformace překonat tu, kterou generují lidé, což zdůrazňuje potřebu robustních zabezpečení a zodpovědného vývoje AI.
Jedním z klíčových aspektů AI, který byl zdůrazněn incidentem Gemini, je problém zkreslení. AI modely jsou trénovány na obrovských množstvích dat a pokud tato data nesou kulturní zkreslení, AI může tato zkreslení udržovat a dokonce zesilovat. Inženýři Googlu se pokusili řešit tento problém přebalancováním algoritmů tak, aby odrážely lidskou diverzitu. Jejich snahy však selhaly, odhalují složitost řešení zkreslení v AI.
Odborníci argumentují, že řešení zkreslení v AI je nuancovaný a obtížný úkol. Technologický právník Alex Shahrestani zdůrazňuje obtížnost identifikace a odstranění zkreslení v AI algoritmech, protože samotní inženýři mohou nevědomky zavést svá vlastní zkreslení do tréninkového procesu. Boj proti zkreslení v AI je dále komplikován nedostatkem transparentnosti ohledně jeho vnitřního fungování. Velké technologické společnosti často ukrývají metodiku za AI algoritmy, což uživatele zbavuje možnosti identifikovat a odstranit jakékoli skryté zkreslení.
K překonání těchto výzev se rozvíjí hnutí, které požaduje větší diverzitu v týmech vývojářů AI a zvýšenou transparentnost v AI algoritmech. Odborníci a aktivisté argumentují, že různorodé pohledy a zkušenosti jsou klíčové při budování AI systémů, které jsou spravedlivé a bez zkreslení. Jason Lewis, z Indigenous Futures Resource Center, se zasazuje za zapojení okrajových komunit do návrhu a vývoje AI algoritmů, aby se zaručilo etické využití dat a zastoupení různorodých pohledů.
Incident Google Gemini slouží jako výstražný signál pro technologické titány a společnost obecně. Zdůrazňuje potřebu zodpovědného vývoje AI, komplexního testování a řešení zkreslení v AI algoritmech. Přijetím diverzity a transparentnosti můžeme využít sílu AI k vytvoření spravedlivější a inkluzivnější budoucnosti.
Časté otázky (FAQ)
The source of the article is from the blog combopop.com.br