V oblasti umělé inteligence (AI) dochází ke zdánlivě nekonečnému množství hypů kolem generativní umělé inteligence. Nicméně začíná být jasné, že tyto hypy mohou být mylné a některé podniky se to učí složitým způsobem.
Jedním z hlavních nedostatků velkých jazykových modelů jako je ChatGPT je jejich tendence halucinovat a šířit dezinformace. To vedlo k obvinění z plagiátorství vůči chatbotům a tvůrcům obrázků s využitím AI, což způsobuje renomé škodu podnikům, které spoléhají na tyto technologie. Navíc spotřeba energie vyžadovaná generativními AI zařízeními je významným zneklidňujícím faktorem pro životní prostředí.
Ale welkým problémem je pravděpodobně spolehlivost této technologie. Podle výzkumníka v oblasti AI Garyho Marcuse podniky zjišťují, že nemohou spoléhat na generativní AI, aby pracovala konzistentně. Mnoho společností vyjádřilo frustraci nad výkonem této technologie a její neschopností být spolehlivě nasazována zákazníkům.
Jedna britská společnost musela deaktivovat svůj chatbot, když začal používat urážlivou řeč a urážel zákazníky. Obdobně musela dílna automobilového obchodu v Kalifornii zasáhnout, když jeho obchodník s auty vybavený ChatGPT začal nabízet auta za pouhý 1 dolar. Tyto incidenty zdůrazňují nespolehlivost a potenciální rizika spojená s nadměrným spoléháním na generativní AI.
Problém spočívá v tom, že tyto modely AI nejen získávají informace; syntetizují je. Bez vhodných záruk a směrnic mohou tyto modely vytvářet falešné nebo zavádějící informace na základě dat, na kterých byly vyškolené. Toto nedostatečné rozlišování představuje značnou výzvu pro podniky, které se snaží využít generativní AI ve svých produktech.
S ohledem na tyto problémy někteří odborníci vykreslují paralely mezi průmyslem AI a předchozími bublinami jako je kryptoměna či start-upy Dot Com. Nafouknuté projekce toho, že se AI stane průmyslem v hodnotě bilionu dolarů do příští dekády, vzbuzují obavy ohledně nerealistických očekávání. K tomu skeptici klade otázku, zda se technologie bude postupovat dostatečně rychle, aby vyhověla současnému hypu, což by potenciálně mohlo vést k období stagnace.
Investoři, kteří vložili velké sumy peněz do průmyslu AI, mohou najít ve svém růstu netrpělivost, pokud nebudou vidět očekávané návraty peněz v krátkém období. Zatímco AI a AGI (Umělá obecná inteligence) nejsou nemožné, současný stav technologie generativní AI představuje řadu problémů, které nelze snadno překonat.
Je zásadní, aby podniky i výzkumníci přistupovali k AI s realistickým pohledem a zvažovali limity a rizika spojená s generativní AI. Pouze uznáním těchto výzev můžeme vyvíjet a nasazovat technologie AI, které jsou spolehlivé, etické a prospěšné pro společnost.
FAQ
Co je generativní AI?
Generativní AI odkazuje na modely umělé inteligence, které mohou generovat nový obsah nebo informace, jako jsou texty nebo obrázky, na základě dat, na nichž byly vyškoleny.
Jaké jsou nedostatky generativní AI?
Generativní AI má několik nedostatků, včetně tendence k halucinacím a šíření dezinformací, možných problémů s plagiátorstvím, vysoké energetické náročnosti a problémů s hodnověrností.
Proč je spolehlivost problémem u generativní AI?
Modely generativní AI nejsou navrhnuté pro získávání informací, ale spíše pro syntetizaci informací. To může vést k vytváření falešného nebo zavádějícího obsahu, pokud nejsou na místě vhodná opatření a směrnice.
Je průmysl AI bublina?
Někteří odborníci porovnávají průmysl AI s předchozími bublinami, jako jsou kryptoměny či start-upy Dot Com. Nerealistické projekce a nafouknutá očekávání vyvolávají obavy ohledně udržitelnosti a rychlého rozvoje technologie.
Co by měly podniky zohlednit při používání generativní AI?
Podniky by měly být obezřetné ohledně limitů a rizik spojených s generativní AI a přijmout vhodná opatření, aby zajistily spolehlivost, etiku a užitečnost technologie ve svých produktech či službách.
Zdroje:
– Axios: axios.com
– Humane Intelligence: humane-intelligence.com
The source of the article is from the blog radardovalemg.com