Uživatelé Google vyjádřili obavy ohledně nepřesností v přehledu AI
Méně než dva týdny po uvedení přehledu AI Googlu ve výsledcích vyhledávání se tento prvek, který byl navržen k poskytnutí shrnutí před výsledky, setkal s kritikou. Uživatelé se setkali s nesmyslnými nebo nepřesnými odpověďmi, jako je nesprávné tvrzení, že bývalý prezident Barack Obama je muslim.
Přehled AI je zamýšlen k zefektivnění vyhledávací zkušenosti tím, že poskytuje rychlé shrnutí pro dotazy. Například hledání nejlepšího způsobu, jak vyčistit kožené boty, může poskytnout proces čištění krok za krokem na vrcholu výsledků, pocházející z různých online informací.
Tento nový nástroj však podle sdílených snímků obrazovky uživatelů na sociálních sítích zaznamenal vlnu chyb. Tyto incidenty odrážejí intenzivní soutěž mezi technologickými giganty jako Google, Microsoft a OpenAI, kteří soupeří o integraci generativního AI, aby si udrželi vedení v různých odvětvích. Očekává se, že tyto technologie v budoucnosti vygenerují značné příjmy, s odhady až na 1 bilion dolarů během deseti let.
Příklady chybných odpovědí v přehledech AI zahrnují falešné tvrzení o amerických prezidentech, absurdní kuchařské rady týkající se neškodné lepidla a pochybné zdravotní doporučení připisované důvěryhodným zdrojům jako WebMD.
V reakci na rostoucí kritiku uvedl mluvčí Googlu, že zatímco většina odpovědí v přehledech AI je informativní a přesná, uznali, že některé ze sdílených příkladů byly buď manipulovány nebo neověřitelné. Důrazně zdůraznil, že funkce prošla rozsáhlými testy před spuštěním a že Google přijímá rychlé korekční akce v souladu s jejich obsahovou politikou.
To není jediné AI-související vykolejení Googlu; obdobný problém nastal s jejich nástrojem na generování obrázků, Geminim, který byl dočasně pozastaven kvůli historickým nepřesnostem a pochybným reakcím. To vedlo k přerušení generování obrázků zobrazujících lidi a slibovaným vylepšením pro budoucí verzi.
Úsilí Googlu v oblasti AI nebylo bez kontroverze, s diskusemi o etických úvahách ohledně AI a předchozími kritikami ohledně odvolání jejich vedoucího týmu pro etiku AI. Tyto diskuse nadále formují se vyvíjející krajinou AI v technologickém průmyslu.