Chyby umelej inteligencie (AI) vracajú priemysel na zem
Napriek veľkým nádejam a ambicióznym tvrdeniam pokrok umelej inteligencie (AI) stále klopýna, vyvolávajúc otázky o jej spoľahlivosti a praktickosti. Asi pred rokom niektorí vedúci výskumníci požiadali o šesťmesačný prestávku vo vývoji väčších systémov AI, aby sa nevytvorilo niečo príliš silné na ovládanie. Prestávka však nebola dodržaná a dnes miesto uvažovania o svetovej dominancii AI sa zaoberáme jej užitočnosťou.
Keď Sam Altman, CEO spoločnosti OpenAI, naznačoval „nové veci“, ktoré pre neho „pôsobia ako mágie“, technická komunita očakávala prielom. Namiesto toho sa aktualizácia programu ChatGPT ukázala byť rutinným zlepšením, čo ho sprístupnilo lacnejšie a rýchlejšie, ale zostal nudný v porovnaní s hypom okolo AI.
Tento realitný test mení spôsob, akým by mali jednotlivci, zamestnávatelia a vlády pristupovať k najnovším ohromujúcim vývojom Silicon Valley. Uvedomenie si nedostatkov AI by mohlo usmerňovať efektívnejšie investície a zameriavať úsilie na viac reálne riešenia.
Kritici ako Molly White, výskumníčka kryptomien, vyjadrujú k AI pocity podobné ako k technológii blockchain – neefektívna pri mnohých úlohách, ktoré sa snaží splniť, a neschopná vykonávať sľúbené budúce funkcie.
V poslednom desaťročí boli dosiahnuté významné úspechy AI, ako napríklad úspešné rozpoznávanie obrázkov a prepisovanie reči na text. AI dokonca umožnila spevákovi zosnulému vytvoriť novú pieseň. Niektoré míľniky však, ako bolo tvrdenie o absolvovaní skúšok ChatGPT-4, neskôr ostali vyvrátené, keď systém dosiahol pri opätovnom hodnotení výrazne nižší výsledok.
Dodatočná skepsa je odôvodnená tvrdením Googlu o použití AI na objavenie viac ako dvoch miliónov nových chemických zlúčenín, ktoré po preskúmaní ukázali málo dôkazov o novosti, dôveryhodnosti alebo prospechu. Okrem toho sa AI často potýkala s základnými otázkami v rôznych oblastiach a nedokázala konzistentne zlepšovať softvérové programovanie – úlohu, v ktorej by mala excelovať.
Vízia AI stať sa „najvýkonnejšou technológiou, ktorú ľudia vytvorili,“ ako uviedol Altman, sa zdá byť najviac vzdialená. Pri porovnaní medzi ľudským softvérovým vývojárom a jeho kolégom vytvoreným pomocou AI ten prvý úlohu dokončil v zlomku času, za aký ho AI zvládol. To vyvoláva pochybnosti o efektívnosti a kvalite.
Aj keď spoločnosti AI neustále sľubujú prielomy, Altmanove poznámky o novom jazykovom modeli, GPT-5, ako významnom posune oproti svojim predchodcom, musíme prijať s opatrným optimizmom. Často AI návrhy potrebujú takými hodnoteniami, akoby úloha bola vykonaná manuálne od začiatku.
Nedostatky v rozvoji AI pretrvávajú v čase, keď prístup k novým údajom a nevyhnutnej výpočtovej sile sa stáva čoraz obmedzenejším. Autori a novinové organizácie protestujú proti používaniu ich údajov bez súhlasu, čo môže viesť k stiahnutiu kvalitných údajov z modelov AI.
V závere by generatívna AI mohla byť osudová na plnenie priemerných úloh, podobne ako Roomba – postačujúca pre každodenné použitie, ale nedostatočná, keď sa vyžaduje vysoká kvalita. AI stále nachádza miesto v pracoviskách s priemernými požiadavkami na kvalitu, ale vo sektoroch, kde je kvalita nevyhnutná, ako sú tie s odborovými pracovnými silami ako scenáristi a zdravotné sestry, by mohol byť vplyv AI zanedbateľný. Priemysel musí pokračovať vo zlepšovaní technológie AI a zároveň dbať na riziko investovania do možno nedosiahnuteľnej ideálnej budúcnosti.
*Dan Wang – Hostujúci výskumný pracovník na Paul Tsai China Center na Yale Law School
*Nick Frisch – Stály hosť na projekte Information Society na Yale Law School
Kľúčové otázky a odpovede:
1. Aké hlavné výzvy stojí pred vývojom AI dnes?
Medzi hlavné výzvy patrí zabezpečenie spoľahlivosti AI, riešenie etických obáv ako je ochrana súkromia a súhlas týkajúci sa využívania údajov, riešenie obmedzení výpočtovej sily a dostupnosti kvalitných údajov a prekonávanie hypy na stanovenie realistických očakávaní z hľadiska schopností AI.
2. Aké kontroverzie obklopujú AI?
Kontroverzie zahŕňajú obavy z toho, že AI prekročí ľudskú kontrolu, možná strata pracovných miest, predsudky v rámci systémov AI a využitie AI vo surveillance a vo vojenských aplikáciách. Rovnováha medzi inováciami a etickými zvažovaniami neustále rozpútava diskusiu.
3. Aké sú výhody AI?
AI dokáže rýchlo spracovať a analyzovať obrovské množstvo údajov, automatizovať rutinné úlohy, zlepšiť procesy rozhodovania a má potenciál v diagnostike chorôb, doprave (napr. autonómne vozidlá) a v rôznych iných oblastiach.
4. Aké sú nevýhody AI?
Nevýhody zahŕňajú potenciálnu stratu pracovných miest v určitých odvetviach, riziko upevňovania predsudkov prítomných v trénovacích údajoch, bezpečnostné problémy a súčasnú neschopnosť systémov AI plne pochopiť kontext a nuansy rovnako ako ľudia.
Súvisiace odkazy:
Ak sa chcete dozvedieť viac o výskume a vývoji AI, môžete navštíviť spoľahlivé domény ako Inštitút počítačovej vedy a umelej inteligencie MIT (CSAIL) alebo OpenAI. Tieto odkazy poskytujú informácie o najnovších výskumoch AI a priemyslových aplikáciách. Okrem toho, pre širšie pokrytie technológií, etiky a politiky môžu byť cenné platformy ako Asociačný časopis pre výpočtovú techniku.
Dodatočné relevantné skutočnosti:
– Aj keď sa v článku nespomínalo, AI bola dôležitá v oblasti zdravotníctva, najmä v prediktívnej analýze a vedení starostlivosti o pacientov. Avšak stále pretrvávajú obavy ohľadom ochrany údajov pacientov.
– Environmentálny dopad trénovania veľkých modelov AI je tiež významnou výzvou, keďže výpočtový výkon potrebný na to môže viesť k významnej spotrebe energie a emisiám CO2.
– Prebieha diskusia o potrebe transparentnosti a vysvetliteľnosti v systémoch AI, najmä keď sa stávajú súčasťou kritických rozhodovacích procesov.
– Úloha AI v hlbokých falšovaniach a kampaniach s dezinformáciami predstavuje riziko pre integritu informácií, čo je rastúca starosť v informačnej dobe.
– Vplyv AI na zamestnanosť vyvolal významnú diskusiu o budúcnosti práce a potrebe preškoliť pracovníkov, ktorých práca sa môže automatizovať.
Zhrnutie: Technológia AI predstavuje paradox obrovského potenciálneho prínosu tieňovaného rovnako významnými výzvami a obavami. Riešenie týchto problémov si vyžaduje pokračujúci dialóg medzi technológmi, tvorcami politík a verejnosťou ako celkom, ako aj pokračujúci výskum a vývoj.
The source of the article is from the blog xn--campiahoy-p6a.es