Přehled AI Google čelí veřejné kritice pro svůj podprůměrný výkon krátce po svém debutu. S cílem poskytnout rychlé souhrny pro vyhledávací dotazy na vrchu výsledků vyhledávání Google se na AI snesla posměšná reakce za poskytování odpovědí, které zahrnovaly chyby od směšných po zcela nepřesné rady.
Uživatelé, kteří hledali nejlepší způsob, jak vyčistit kožené boty, měli najít vícekrokový postup na vrchu svých výsledků vyhledávání. Místo toho se uživatelé sociálních médií sdíleli snímky obrazovek, které ukazovaly pochybení AI, jako je například navrhování přidání netoxického lepidla na pizzu k zabránění lepení sýra – jde o zjevně nevhodný kuchařský tip.
AI tím však nekončila; poskytovala fakticky nesprávné odpovědi na jednoduché otázky. Chybně prohlásila, že v USA byl prezident muslimského vyznání, odkazujíc na Baracka Obamu, který islám neprovozuje. V jiném případě, když se ptáno na zdravotní přínosy hledění na slunce, uvádí výzkumníky, kteří doporučují nebezpečně dlouhodobé vystavení, což není podloženo lékařskými radami.
Takové chyby nejen smějí, ale vyvolávají také obavy vzhledem k potenciálním důsledkům špatné připisované profesionálům, jako jsou poskytovatelé zdravotní péče či vědci. Přestože společnosti silně investují do rozšiřování svých schopností AI, kdy se očekává, že trh s AI dosáhne šokující částky 1 bilionu USD v příští dekádě, tyto nedostatky ukazují, že technologie stále má překážky k překonání.
Odpověď Googlu na chyby byla zdůraznit, že AI Overview prošla podstatnými testy a že společnost je rychlá v opravě obsahu AI pro dodržování svých pravidel. Tato kontroverze následuje po dočasném pozastavení nástroje Google Gemini pro tvorbu obrázků, který šířil nepřesné historické informace a vyvolal skepsi mezi uživateli.
Klíčové otázky a odpovědi:
– Proč čelí AI Google kritice? AI Googlu čelí kritice za vytváření nesmyslných a fakticky nesprávných odpovědí ve svých stručných souhrnech, což vede ke veřejné kritice a skepsi ohledně spolehlivosti obsahu generovaného AI.
– Jaké byly některé konkrétní chyby AI Googlu? Chyby zahrnují navrhování přidání netoxického lepidla na pizzu a tvrzení, že Barack Obama byl muslimským prezidentem USA, stejně jako doporučování nebezpečných lékařských postupů, jako je hledění na slunce.
– Jakým způsobem reagoval Google na kritiku? Google uvedl, že je rychlým v nápravě obsahu vytvořeného AI, aby se zarovnal s jeho politikami a zdůraznil, že jejich přehled AI prošel rozsáhlými testy.
Klíčové výzvy a kontroverze:
Nedávná kritika AI Googlu zdůrazňuje několik klíčových výzev a kontroverzí v oboru:
– Přesnost a spolehlivost: AI systémy musí poskytovat přesné a spolehlivé informace, aby získaly důvěru veřejnosti, zejména při zacházení s tématy, které mohou mít pro špatně informované uživatele závažné důsledky.
– Zodpovědnost a odpovědnost: Určování, kdo je zodpovědný za obsah generovaný AI a řízení odpovědnosti za dezinformace, je probíhající debatou.
– Bezpečnost a etické obavy: Šíření škodlivých rad, jako je doporučení hledět na slunce, přináší otázky o bezpečnostních opatřeních implementovaných v AI systémech k ochraně uživatelů.
Výhody a nevýhody:
Výhody:
– Účinnost: AI může rychle poskytnout souhrny a odpovědi na dotazy, ušetřujíce uživatelům čas při získávání informací.
– Škálovatelnost: AI může zpracovávat velké objemy dotazů současně, potenciálně zlepšující přístup k informacím pro široké publikum.
Nevýhody:
– Problémy spolehlivosti: Jak je vidět v tomto případě, AI někdy může produkovat nepřesné informace, které mohou být zavádějící nebo dokonce nebezpečné.
– Vliv na důvěru: Časté chyby mohou podkopat důvěru uživatelů v technologii AI a platformy, které ji implementují, jako je například Google Search.
Pro další informace o schopnostech AI Googlu a jejich práci na formování budoucnosti technologie AI, můžete navštívit Google. Upozorňujeme, že přímo odkazy na konkrétní stránky či články související s tímto problémem AI nebyly v souladu s pokyny zahrnuty jako pouze hlavní doménové odkazy.