Google’i AI-põhine kokkuvõtete funktsioon eksitab kasutajat kulinaarse päringu osas
Business Insideri poolt välja toodud eriskummalises juhtumis eksis Google’i uus AI-ülevaadete otsingu funktsionaalsus, kui see genereeris ebapraktilise lahenduse pizzaga seotud probleemile. Ilmselgelt üritades aidata kasutajat juustu pizzalt libisemise probleemiga, soovitas AI-ülevaated kummalisel kombel lisada kastmesse “umbes ⅛ tassi mittetoksilist liimi” parema kleepuvuse saavutamiseks. See veider nõuanne tulenes ilmselt Redditis 11-aastase kommentaari ja näis olevat pigem nali.
Google plaanib AI-ülevaateid laiendada hoolimata puudustest
AI-ülevaadete juurutamine algas testina Ameerika Ühendriikides ja Ühendkuningriigis, Google plaanib selle laiemat rakendust aastaks 2024 lõpuks. Google’i otsingude osakonna juht Liz Reid kiitles hiljutisel ettevõtte konverentsil, et omadus mõjutaks tõhusalt Google’i poolt kasutaja heaks tehtavaid otsinguid.
Täpsusprobleemid tekitavad muret Google’i AI-ülevaadete osas
Liim-pizza juhtum tähistab vaid ühte kitsaskohta teabe saamiseks AI kasutamisel. Teiste kasutajate poolt sotsiaalmeedias teatatud juhtumite hulka kuuluvad märkimisväärselt ebatäpsed vastused, näiteks teade koera mängimisest NHLis. Business Insideri Peter Kafka märkis, et üks AI-generaalse sisu kaasasündinud probleemidest on võimalus luua infot. Näiteks tuvastasid AI-ülevaated ekslikult Londoni Toweri sõja ajal pommitatud ohvrina, mitte Big Beni.
Hoolimata neist juhtumitest kommenteeris Google’i pressiesindaja varem, et sellised näited on “äärmiselt haruldased päringudest tulenevad erandid”, rõhutades, et valdav enamus AI ülevaated pakuvad kvaliteetset teavet. Enne funktsiooni käivitamist viis Google teadaolevalt läbi põhjaliku testimise. Siiski rõhutavad sellised juhtumid teemade keerukust, mis kaasnevad AI integreerimisega otsingumootoritesse ja vajadusega edasiste täiustuste järele.
Olulised küsimused ja väljakutsed seotud Google’i AI-ülevaadetega
Üks olulisemaid küsimusi on: Kui usaldusväärne on AI-genereritud nõuanne? Asjaolu, et AI-ülevaated andsid nõu juba naljakommentaaril põhinevalt, tekitab muret pakutud teabe usaldusväärsuse ja täpsuse pärast. Kasutajad võivad pimesi usaldada AI juhiseid, mis võib viia kahjulikesse olukordadesse või valeinfo levikuni. Peamine väljakutse seisneb AI võimes eristada usaldusväärseid allikaid huumorist või sarkasmist, mis võib olla keeruline inimkeele peenekoelisuse tõttu.
Veel üks oluline küsimus on: Milliseid samme Google astub ebatäpsuste lahendamiseks? Kvaliteedikontroll on oluline AI jätkuvas integreerimises otsingufunktsionaalsusega. Google peab jätkama oma algoritmite täiustamist info tõhusamaks analüüsimiseks ja kinnitamiseks, võimalik, et mitme allika ristviitamise või tugevama konteksti äratundmise rakendamisega.
Põhipoliitika
Põhipoliitika seisneb tasakaalu leidmises kiirete, automatiseeritud kokkuvõtete esitamise ja valeinfo või eksitava teabe levitamise riski vahel. Otsingumootorid püüavad saada AI abil efektiivsemaks, kuid kasutaja usalduse arvelt tehtud vigade potentsiaal muutub kriitilise tähtsusega küsimuseks.
Eelised ja puudused
AI-ülevaadete eelised hõlmavad:
– Tõhususe parandamine, andes kasutajatele kokkuvõtted.
– Automatiseeritud otsimise mugavus, säästes kasutajate aega tulemuste läbivaatamisel.
– Kasutajakogemuse parandamine, pakkudes kiiret juurdepääsu asjakohasele teabele.
Puudused hõlmavad:
– Vale või ebatäpse info esitamise riski, nagu näitas “liimi pitsa” soovitus.
– AI keeruline arusaamine inimkommunikatsiooni kontekstist ja nüanssidest, nagu sarkasm ja huumor.
– Sõltuvus AI-st võib vähendada kasutajate võimalust teabe kriitiliseks hindamiseks.
Kui soovite rohkem teavet Google’i AI ja otsingutehnoloogia kohta otse Google’ilt, võite külastada nende põhidomeeni: Google. Palun pange tähele, et selle lingi klõpsamine viib teid Google’i avalehele, kust saate navigeerida erinevatesse nende saitide valdkondadesse, et saada rohkem teavet nende viimaste tehnoloogiate ja AI-ülevaadete värskenduste kohta.