Suočena s rastućom prijetnjom dezinformacija uzrokovanih umjetnom inteligencijom, Google je hitno ažurirao svoju platformu AI generiranih sadržaja, AI Overviews, prošlog petka. Korisnici su prijavili da su dobili čudne i čak potencijalno opasne odgovore na svoja pitanja, što je potaknulo brzu reakciju ove tehnološke gigantske tvrtke. Prema tvrtki, koraci su poduzeti čim su se pojavili problemi koji su prekršili smjernice sadržaja.
Pogrešni AI odgovori potiču brzu akciju tvrtke Google
AI Overviews tvrtke Google privukao je pažnju korisnika nakon što su počeli primjećivati čudne odgovore na svoja pitanja. Na primjer, kada je pitao o broju muslimanskih predsjednika u Sjedinjenim Američkim Državama, AI Overviews je pogrešno predložio da bi Barack Obama mogao biti smatran prvom muslimanskim predsjednikom. Google je odmah uklonio ove netočne informacije, potvrdivši da krše njihove smjernice za sadržaj.
Još jedan korisnik podijelio je neobičnu preporuku AI Overviews. Na pitanje o sprječavanju sira da se lijepi za pizzu, AI je predložio korištenje “netoksičnog ljepila”, pojam koji se očitoze vuče iz stare objave na Redditu. Slično tome, AI Overviews je pogrešno koristio satiričnu tvrdnju The Oniona, koji je citirao navodno priznanje CIA-e da koristi crne markere za zakrivanje teksta u dokumentima.
Google je ozbiljno shvatio ove slučajeve i koristio ih za poboljšanje točnosti sustava. Neke su promjene već implementirane. Uveden sredinom svibnja, AI Overviews ima za cilj pružiti pisanu reakciju na pretrage, udaljujući se od tradicionalnih rezultata temeljenih na poveznicama. Iako su hiperpoveznice još uvijek dostupne, sada su ispod AI napisanog sadržaja koji bi mogao potpuno zadovoljiti upite korisnika.
Izazovi i kontroverze u AI-generiranom sadržaju
Jedan od ključnih izazova s platformama za AI-generirane sadržaje, poput AI Overviews tvrtke Google, jest upravljanje i sprečavanje dezinformacija. Kako se algoritmi strojnog učenja treniraju na opsežnim skupovima podataka s interneta, mogu slučajno održavati netočnosti ili pristranost pronađenu unutar tih izvora podataka. Osiguravanje pouzdanosti takvih sustava primarni je problem za programere, korisnike i dionike.
Postoji dodatni potencijal da AI bude zloupotrijebljen od strane zlonamjernih sudionika. Dezinformacije i lažne informacije ozbiljne su prijetnje u digitalnom dobu, posebice kada AI može generirati uvjerljive, ali lažne sadržaje u velikoj mjeri. Google, među ostalima, mora stalno ažurirati algoritme i mjere nadzora kako bi se obranio od tih prijetnji.
Ključna pitanja i odgovori
P: Koje korake je Google poduzeo kao odgovor na dezinformacije s AI Overviews?
A: Google je ažurirao svoj algoritam AI Overviews kako bi uklonio netočne odgovore i nastavlja usavršavati svoj sustav kako bi poboljšao točnost i poštivanje smjernica za sadržaj.
P: Kako nastaje dezinformacija u AI-generiranom sadržaju?
A: Dezinformacija može nastati kada se AI sustavi treniraju na netočnim ili pristranim skupovima podataka ili kada AI pogrešno tumači istinite podatke na neželjeni način.
Prednosti i nedostaci AI-generiranih pregleda
Prednosti:
– AI Overviews može potencijalno pružiti brže, točnije sažetke kompleksnih informacija.
– Sustav može poboljšati učinkovitost pretraživanja, pružajući korisnicima informacije koje trebaju bez potrebe da klikću kroz više veza.
– Korištenjem strojnog učenja, Google može kontinuirano napredovati platformu kako bi se s vremenom poboljšala, prilagođavajući se novim podacima i povratnim informacijama korisnika.
Nedostaci:
– Sustav je sklon pogreškama i može širiti dezinformacije ako se ne pažljivo nadzire i ispravlja.
– Može smanjiti promet na vanjske web stranice, što može oštetiti pregledavanje i prihode od oglasa izdavača.
– Postoji rizik prevelikog oslanjanja na AI, što potiče korisnike da prihvate AI-generirane informacije bez kritičkog razmišljanja ili provjere.
Osiguravanje valjanosti online sadržaja je stalni zadatak za pretraživače poput Googlea, koji moraju uravnotežiti korisnost alata za AI i rizike širenja dezinformacija. Za više informacija o širim naporima i značajkama tvrtke Google, možete posjetiti glavnu domenu Googlea na Google.