Google-ova značajka sažetaka na temelju AI zavarala korisnika u kulinarskom upitu
U neobičnom incidentu opisanom od strane Business Insidera, nova funkcionalnost pretrage AI sažetaka tvrtke Google, AI Overviews, pogriješila je generirajući nepraktično rješenje za problem povezan s pizzom. Navodno pokušavajući pomoći korisniku s problemom klizanja sira s pizze, AI Overviews je na bizaran način predložio da se u umak za veću ljepljivost dodaju “oko ⅛ šalice netoksičnog ljepila.” Ovaj čudan savjet očito je potjecao iz 11-godišnjeg komentara s Reddita i vjerojatno je bio namijenjen kao šala.
Google planira proširiti AI Overviews unatoč manama
Implementacija AI Overviews započela je kao test u SAD-u i Velikoj Britaniji, a Google planira širu primjenu do kraja 2024. godine. Liz Reid, šefica Google-ovog odjela za pretraživanje, pohvalila se na nedavnoj konferenciji tvrtke da će ova značajka učinkovito djelovati kao da Google obavlja pretrage u korisnikovo ime.
Problemi s točnošću izazivaju zabrinutost vezano uz AI Overviews tvrtke Google
Incident s ljepilom na pizzi označava samo jednu od zamki korištenja AI-a za pronalaženje informacija. Ostali slučajevi prijavljeni od strane korisnika na društvenim medijima uključuju značajno netočne odgovore, poput izjave o psu koji igra u NHL-u. Peter Kafka iz Business Insidera primijetio je da je jedan od urođenih problema s AI-generiranim sadržajem njegova sposobnost fabriciranja informacija. Primjerice, AI Overviews je pogrešno identificirao londonski Toranj kao žrtvu ratnih bombardiranja umjesto Big Bena.
Unatoč ovim slučajevima, glasnogovornik iz Googlea prethodno je komentirao da takvi primjeri predstavljaju anomalije rezultirane “iznimno rijetkim upitima,” naglašavajući da većina AI Overviews pruža visokokvalitetne informacije. Prije lansiranja značajke, Google je navodno proveo opsežna testiranja. Međutim, primjeri poput ovih ističu kompleksnosti koje dolaze s integriranjem AI-a u tražilice i potrebu za daljnjim usavršavanjem.
Važna pitanja i izazovi povezani s AI Overviews tvrtke Google
Jedno od najvažnijih pitanja je: Koliko su pouzdani savjeti generirani pomoću AI-a? Činjenica da je AI Overviews pružio savjet temeljen na šaljivom komentaru izaziva zabrinutost vezano uz pouzdanost i točnost pruženih informacija. Korisnici bi mogli slijepo vjerovati vodstvu AI-a, potencijalno dovodeći do štetnih situacija ili širenja dezinformacija. Ključni izazov je osigurati da AI razlikuje vjerodostojne izvore od humora ili sarkazma, što može biti teško zbog nijansi ljudskog jezika.
Drugo značajno pitanje je: Koje korake tvrtka Google poduzima kako bi se riješile netočnosti? Kontrola kvalitete je neophodna za daljnju integraciju AI-a u funkcionalnost pretraživanja. Google mora nastaviti usavršavati svoje algoritme kako bi učinkovitije razvrstavao i provjeravao informacije, možda putem križnog referenciranja više izvora ili jačeg prepoznavanja konteksta.
Ključna kontroverza
Glavna kontroverza leži u ravnoteži između pružanja brzih, automatiziranih sažetaka naspram rizika širenja lažnih ili zavaravajućih informacija. Dok tražilice teže postati učinkovitije pomoću AI-a, potencijalne greške koje idu na štetu korisničkog povjerenja postaju kritično pitanje.
Prednosti i nedostaci
Prednosti AI Overviews uključuju:
– Poboljšanu učinkovitost u pružanju sažetih informacija korisnicima.
– Pogodnost automatiziranog pretraživanja, štedeći korisnicima vrijeme u pretraživanju rezultata.
– Potencijal za poboljšanje korisničkog iskustva pružanjem brzog pristupa relevantnim informacijama.
Nedostaci uključuju:
– Rizik pružanja netočnih ili zavaravajućih informacija, kao što je demonstrirano savjetom o “ljepilu u pizzi.”
– Poteškoće za AI-u razumjeti kontekst i nijanse ljudske komunikacije, poput sarkazma i humora.
– Ovisnost o AI-u može smanjiti sposobnost korisnika da kritički procjenjuju informacije.
Ako želite više informacija izravno od Googlea o njihovoj AI i tehnologiji pretraživanja, možete posjetiti njihov glavni domen: Google. Napomena: Klikom na ovaj link bit ćete preusmjereni na početnu stranicu tvrtke Google, iz koje možete pristupiti različitim dijelovima web mjesta za više informacija o njihovoj najnovijoj tehnologiji i ažuriranjima o AI Overviews.