Innowacyjne narzędzie wyszukiwania AI Google potrzebuje funkcji weryfikującej fakty
Mimo postępu w technologii, nowa funkcja wyszukiwania Google oparta na generatywnej sztucznej inteligencji ostatnio wykazała znaczne wady, prowadząc do rozpowszechniania błędnych informacji. Zamiast przeglądania licznych artykułów i postów na mediach społecznościowych, to narzędzie miało zapewnić użytkownikom zwięzłe podsumowanie bezpośrednio na stronie wyników wyszukiwania.
Ten rewolucyjny towarzysz wyszukiwań, niemniej jednak, napotkał poważne wyzwania. Błędnie sugerował szkodliwe działania, takie jak spożywanie kamieni, przyklejanie sera do pizzy przy użyciu nietoksycznego kleju lub popieranie palenia w czasie ciąży – pokazując, że krzywa uczenia się sztucznej inteligencji nadal jest stroma.
Jedno z zdarzeń dotyczyło Chrisa Castanovy, ewangelisty AI z Adobe, który otrzymał dziwną rekomendację od AI, twierdzącą, że osoby powinny spożywać przynajmniej jeden mały kamień dziennie, pochodzący z nieodpowiedniego artykułu, do którego błędnie się odnosiło. W miarę pojawiania się informacji o błędnych sugestiach w internecie, Ben Collins, dyrektor generalny The Onion, wskazał, że doświadczenie wyszukiwania błędnie cytowało satyrę jako fakt, pogłębiając problem.
Google przyznał się do tych potknięć, twierdząc, że są one odstępstwem od ogólnie sprawdzonego systemu. Podkreślają, że większość podsumowań generowanych przez AI dostarcza dokładnych informacji, a deweloperzy stale doskonalą algorytmy w celu poprawy wydajności.
Mimo to, subtelne błędy AI stwarzają większy problem. Melanie Mitchell z Instytutu Santa Fe zwróciła uwagę na kłopotliwy błąd, kiedy AI fałszywie twierdziło, że Barack Obama był prezydentem muzułmańskim. Takie błędy mogą łatwo przyczyniać się do rozpowszechniania dezinformacji.
Google, znany z weryfikowania informacji, teraz ironicznie sugeruje korzystanie z tradycyjnego wyszukiwania do sprawdzania podsumowań generowanych przez AI. Ten ostatni rozwój sugeruje krok wstecz, zachęcając użytkowników do niezależnej weryfikacji faktów – co jest odwróceniem zamierzonego przez Google doświadczenia użytkownika.
The source of the article is from the blog girabetim.com.br