Google’s AI Powered Reviews iesprauda ar maldinošiem padomiem
Plaši izmantojot Google mākslīgo inteliģenci meklēšanā, kas pazīstams kā “AI Review,” lietotāji saskārās ar gadījumiem, kad tika sniegta nevēlama informāciju. Šis AI sistēma, kas izveidota, lai apkopotu zināšanas, kļūdaini veicis nepareizas padomus, jo spēja atšķirt satīru no faktiem. Šis elements kļuva vīruss ar dīvainu ieteikumu: tas ieteica uzklāt līmi uz picas, lai saglabātu sieru pareizā vietā. Šis dīvainais padoms tika izsekots līdz spēcīgai komentāram Reddit no pirms desmit gadiem, tomēr tas tika apgrozīts kā īsts ieteikums, izraisot plašu priekšnojautu un uztraukumu.
Google Reaģē uz AI Powered Reviews, kas izplatīja dezinformāciju
Kad incidents attīstījās, Google aizstāvēja kopējo precizitāti savā AI Review, bet atzina, ka visvairāk vīrusa kļūdas radās no jautājumiem, kas bija tik reti, ka tie izvairījās no parastajiem pārbaudēm. Turpmākie pasākumi ir veikti, lai samazinātu šādas parādības, ar Google atspējojot AI Review meklēšanas izteicienus, kas radīja nerealistiskus picas līmētāju padomus.
No Vīrusa Kļūdas līdz pašu atsaucienam
Kolins Makmilens, Bluesky programmētājs, uzsvēra savdabīgu pagriezienu: AI Reviews sāka atsaukties uz jaunumu rakstiem, kuros bija aprakstīta Google paša vīrusa kļūda, kad tika vaicāts “cik daudz līmes pievienot pīcai”. Šis pašreferenciālais cikls demonstrēja nepieciešamību pēc turpmākas pilnveides Google AI sistēmā. Lai gan Google kopš tā laika ir risinājis šo jautājumu, neļaujot AI Review saistītiem vaicājumiem, situācija uzsvēra izaicinājumu nodrošināt, ka AI ģenerētais saturs paliek kontekstuāli precīzs.
Google Saistībā ar precīziem AI Reviews
Google turpina strādāt pie šo kļūdu novēršanas, cenšoties novērst šādas maldinošas AI uzvedības atkārtošanos. Šis notikums ilustrē, kā AI sistēmas pastaigas pa sarežģīto līniju, cenšoties atšķirt ticamu informāciju no satīras vai nepareiza satura, neskatoties uz solījumu par automātisku zināšanu konsolidāciju. Kad Google AI turpina mācīties un attīstīties, tas ir spēcīgs atgādinājums par nepieciešamību pēc cilvēka uzraudzības, lai pārbaudītu tiešsaistes saturu uzticamību.
Galvenie jautājumi un atbilžu:
1. Kas ir “AI Review” no Google un kā tas darbojas?
AI Review ir mākslīgā intelekta sistēma, kas ieviesta Google meklēšanā, kuras mērķis ir apkopot un apkopot informāciju, sniedzot lietotājiem ātrus un noderīgus atbilžu uz viņu jautājumiem. Tā balstās uz mašīnmācību, lai saprastu un interpretētu plašo informāciju, kas pieejama internetā.
2. Kas izraisīja AI Review sistēmu sniegt maldinošus padomus?
Sistēma kļūdaini identificēja satīrisku padomu no Reddit, kurā tika ieteikts pielietot līmi uz picas, lai sieram saglabātu savā vietā, kā likumīgu ieteikumu. Sakarā ar AI nespēju atšķirt satīru no fakta, šis nepareizais ieteikums tika izplatīts kā patiesa padome.
3. Kādus pasākumus Google veica atbildes uz notikumu?
Google atzina kļūdu un pagaidu atspējoja AI Review funkciju meklēšanas izteicieniem, kas atgrieza nepareizo picas līmētāju padomu. Turklāt uzņēmums turpina pilnveidot AI algoritmus, lai uzlabotu precizitāti un novērstu līdzīgus notikumus nākotnē.
Galvenie izaicinājumi vai kontroverses:
– Lai AI spētu precīzi noteikt pieejamo datu kontekstu un ticamību un tādējādi izvairītos no dezinformācijas izplatīšanas.
– Nodrošinot, lai AI sistēmas saprašana attīstotos, lai atšķirtu starp satīru, viedokli un faktisku saturu.
– Uzturēt līdzsvaru starp saturu konsolidācijas automatizāciju un pietiekamu cilvēku uzraudzību, lai validētu AI darbību.
Priekšrocības un trūkumi AI Review:
Priekšrocības AI Review:
– Ātra piekļuve informācijai, apkopojot un apkopojot datus no dažādiem avotiem.
– Potenciāls, lai lietotājiem nodrošinātu vienkāršotus un uzlabotus meklēšanas pieredzes.
– Samazināta nepieciešamība pārlūkošanai caur vairākām lapām vai vietnēm, lai iegūtu informāciju.
AI Review trūkumi:
– Riski izplatīt dezinformāciju, ja AI neizdodas pareizi interpretēt datus, īpaši no nepārliecinošiem avotiem vai satura, kas paredzēts kā satīra.
– Pārmērīga atkarība no tehnoloģijas var samazināt kritisko domāšanu lietotājos, kad tie novērtē informāciju, ko nodrošina AI.
– Iespējama uzticības Google meklēšanas dzinējam samazināšana, ja netiešības un kļūdas pastāv.
Saistīta saite:
Lai uzzinātu vairāk, varat apmeklēt oficiālo tīmekļa vietni: Google.