Roman Yampolskiy, výzkumník v oblasti umělé inteligence, vyjadřuje obavy z potenciální možnosti, že by umělá inteligence mohla vést lidstvo k vyhynutí, odhaduje ohromující pravděpodobnost 99,9% takové katastrofální události. Na rozdíl od víry v bezpečné modely umělé inteligence Yampolskiy zdůrazňuje absenci bezchybných modelů existujících a nízkou pravděpodobnost, že budoucí modely budou dokonalé.
V nedávném podcastu, Lex Fridman se zabývá pohledy různých inženýrů umělé inteligence, přičemž většina odhaduje šanci 1% až 20%, že umělá inteligence nakonec způsobí vyhynutí lidstva. Rozdíly ve predikcích vyplývají z různých přístupů k otázkám, zdůrazňujíc složitosti hodnocení rizik spojených s umělou inteligencí.
Yampolskiy, profesor informatiky na Univerzitě v Louisville a autor knihy „Umělá inteligence: Ne vysvětlitelná, nepředvídatelná, neovladatelná,“ tvrdí v rozhovoru s Fridmanem kritický význam uznání potenciálních nebezpečí podložených pokročilými vývojem umělé inteligence. Tvrdí, že osud lidstva závisí na schopnosti vytvořit v podstatě dokonalý, mimořádně složitý software během dalšího století – něco, co je nepravděpodobné, s ohledem na trvalé zranitelnosti spojené s návrhem umělé inteligence zaměřené na lidi.
Během posledních několika let, pokroky v technologii umělé inteligence ukázaly varovné signály zneužití a dezinformací, od šíření obsahu deepfake po AI generované dezinformace ovlivňující politické události. Zejména AI modelový prvek Google Gemini „Přehledy AI“ získal pozornost tím, že produkoval nesmyslné odpovědi, jako například navrhovat použití lepidla k vytvoření pizzy nebo tvrdit, že v Africe nezačínají žádné země na „K.“
Yampolskiy zdůrazňuje potřebu trvalých bezpečnostních mechanismů pro efektivní kontrolu pokroku v oblasti umělé inteligence. Navzdory navrhovaným pravidlům pro pískoviště od průmyslových osobností jako Sam Altman z OpenAI přetrvává nepředvídatelná povaha AGI (Umělé obecné inteligence) jako značná výzva, s Yampolskiym varujícím před podceňováním potenciálních odvětví vysoce inteligentních systémů.
Další fakta:
– Potenciální dopad umělé inteligence na pracovní trh je značným obavou, přičemž odhady naznačují, že automatizace by mohla vést k přemístění milionů pracovních míst v různých odvětvích.
– Systémy umělé inteligence projevily předsudky na základě dat, na kterých jsou naučeny, což vede k potenciální diskriminaci v oblastech jako je nábor, půjčování peněz a trestní právo.
– Rozvoj autonomních zbraní poháněných umělou inteligencí klade etické otázky ohledně možnosti, že tyto zbraně budou rozhodovat o životě a smrti bez lidského zásahu.
Klíčové otázky:
1. Jaká opatření se přijímají k řešení etických důsledků vývoje umělé inteligence?
2. Jak můžeme zajistit transparentnost a zodpovědnost v rozhodovacích procesech systémů umělé inteligence?
3. Jaký bude dopad rozsáhlého přijetí umělé inteligence na sociální nerovnosti a přemístění pracovních míst?
Výhody:
– Umělá inteligence má potenciál zásadně změnit různé odvětví, zlepšovat efektivitu, produktivitu a inovace.
– Technologie umělé inteligence mohou pomoci při řešení složitých problémů v oblastech jako je zdravotnictví, změna klimatu a reakce na katastrofy.
– Automatizace pomocí umělé inteligence může vést k úspoře nákladů a zlepšení kvality produktů a služeb.
Nevýhody:
– Zneužití technologií umělé inteligence může přinášet značné rizika pro soukromí, bezpečnost a demokracii.
– Systémy umělé inteligence mohou zesilovat existující předsudky a nerovnosti, pokud nejsou pečlivě navrženy a monitorovány.
– Rychlý pokrok v oblasti umělé inteligence by mohl předčit regulační rámce, což by mohlo vést k výzvám při zajišťování odpovědného vývoje a nasazení.
Související odkazy:
– Elektronická nadace pro ochranu občanských svobod
– Americká asociace pro umělou inteligenci
– Martinova škola v Oxfordu