Google’s AI summarizē meklēšanas rezultātus ar dažādām precizitātes pakāpēm
Šomēnes Google atklāja jaunu rīku, kas ir izstrādāts, lai uzlabotu lietotāju pieredzi, nodrošinot AI ģenerētus meklēšanas rezultātu kopsavilkumus. Šī inovācija ļauj lietotājiem ātri iegūt atbildes, nešķirojot vairākus tīmekļa saites. Tomēr šī funkcija nonāca kritikas centrā pagājušajā nedēļā, kad tika konstatēts, ka tā sniedz nepareizu vai dezinformējošu informāciju par dažādiem vaicājumiem.
Kļūdas AI vadītajos meklēšanas rezultātos
Sociālo tīklu lietotāji ziņoja par nepatiesu informāciju AI kopsavilkumos. Viens no šādiem neprecīzajiem faktiem bija uzskats, ka bijušais prezidents Baraks Obama ir musulmaņu ticībā, uzturot plaši atzītu nepatiesību; īstenībā Obama ir kristietis. Cita kļūda ietvēra AI kopsavilkumu nepamatoti apgalvot, ka neviens Āfrikas valsts, kuras nosaukums sākās ar burtu ‘K’, neeksistē. Rezultātā tika pārskatīta Kenija.
Google rīkojas pret AI kopsavilkumos pieļautajām kļūdām
Atbildot uz to, Google apstiprināja, ka minētajos vaicājumos ģenerētie AI kopsavilkumi tiek izņemti no satura saskaņošanas ar uzņēmuma politiku dēļ. Google pārstāve Kolets Garšija teica, ka, lai gan šie AI kopsavilkumi parasti sniedz augsta līmeņa informāciju ar papildu saitēm, pastāv pārveidots attēlu gadījumu plūdis, kas pārstāvējuši kā Google AI kļūdas. Garšija uzsvera pamatīgos pārbaudes testus, kas tika veikti pirms funkcijas izdošanas, un aicināja lietotājus sniegt atsauksmes, lai uzlabotu pakalpojumu.
Pārmaiņas AI uzticamībā
Google uzsver, ka šis AI rīks ir eksperimentāls un iekļauts plašākā centienā ieviest Gemini AI tehnoloģijas visās savās produktos, lai būtu konkurētspējīgi AI sacensībās. Neraugoties uz šīm pūlēm, neveiksmes kā nesenās dezinformācijas gadījums atzīmē izaicinājumus saskaņot vēlmi pēc AI piedzeni attieksmēm ar vajadzību uzturēt uzticamu meklēšanas rezultātu integritāti, īpaši ņemot vērā to, ka reizēm pat mazāk kritiski vaicājumi ir atgriezuši nepareizus vai maldinošus AI kopsavilkumus.
Google turpina apņemties pilnveidot savas AI spējas, atspoguļojot viņu saprašanu par iespējamām riskām, izmantojot AI informācijas izgūšanai.