Susidūrusi su vis didėjančia dezinformacijos grėsme, kurią kelia dirbtinis intelektas, Google skubiai atnaujino savo AI sugeneruoto turinio platformą „AI Overviews“ praėjusį penktadienį. Vartotojai pranešė, kad jie gauna keistus ir net potencialiai pavojingus atsakymus į savo klausimus, skatinant technologijų gigantą skubiai imtis veiksmų. Kompanijos teigimu, priemonės buvo įgyvendintos jau tada, kai kilo problemos, pažeidusios turinio politikos gaires.
Klaidingi AI atsakymai verčia greitai reaguoti Google
Google „AI Overviews“ sulaukė dėmesio po to, kai vartotojai pradėjo pastebėti keistus atsakymus į savo klausimus. Pavyzdžiui, paklausta apie musulmonų prezidentų skaičių Jungtinėse Valstijose, „AI Overviews“ neteisingai siūlė, kad Barackas Obama gali būti laikomas pirmuoju musulmonų prezidentu. Google greitai pašalino šią neteisingą informaciją ir patvirtino, kad ji pažeidė jų turinio taisykles.
Kitas vartotojas pasidalino neįprasta rekomendacija, pateikta „AI Overviews“. Atsakydamas į klausimą, kaip išvengti surišto sūrio ant picos, AI siūlė naudoti „netoksišką klijus“, idėją, matyt, iš seno „Reddit“ įrašo. Panašiai „AI Overviews“ neteisingai panaudojo satyrišką pareiškimą iš „The Onion“, kuriame sakoma, kad CŽA yra pripažinusi naudojanti juodas žymeklius, kad paslėptų tekstą dokumentuose.
Google rimtai vertina šiuos atvejus, naudodama juos sistemos tikslumo tobulinimui. Kai kurie patobulinimai jau buvo įgyvendinti. Įvedus „AI Overviews“ viduryje gegužės mėnesio, siekiama suteikti rašytinį atsakymą į paieškas, pasitraukiant nuo tradicinių rezultatų pagrįstų nuorodomis. Nors hiperlinkai vis dar yra prieinami, jie dabar yra po AI sukurtu turiniu, kuris gali visiškai patenkinti vartotojų užklausas.
Iššūkiai ir kontroversijos susijusios su AI sugeneruotu turiniu
Vienas iš pagrindinių iššūkių, susijusių su AI sugeneruotų turinio platformų, kaip Google „AI Overviews“, valdymu ir dezinformacijos prevencija. Kadangi mokymosi algoritmai yra apmokomi didžiulių interneto duomenų rinkiniuose, jie gali atsitiktinai plintoti netikslumus ar pasibaisėjimus, surastus šiuose duomenų šaltiniuose. Užtikrinti tokių sistemų patikimumą yra pagrindinis rūpestis kūrėjams, vartotojams ir suinteresuotoms šalims.
Yra papildoma galimybė, kad AI gali būti išnaudojamas blogų veikėjų. Dezinformacija ir disinformacija yra rimtos grėsmės skaitmeniniame amžiuje, ypač kai AI gali generuoti įtikinamą, bet klaidingą turinį mastu. Google, tarp kitų, turi nuolat atnaujinti algoritmus ir priežiūros priemones, kad apsisaugotų nuo šių grėsmių.
Pagrindiniai Klausimai ir Atsakymai
K: Kokių veiksmų Google imsis reaguodamas į dezinformaciją iš AI Overviews?
A: Google atnaujino savo AI „Overviews“ algoritmą, kad pašalintų neteisingus atsakymus ir toliau tobulintų sistemą, siekdamas pagerinti tikslumą ir laikymąsi turinio politikos gairių.
K: Kaip kyla dezinformacija AI sugeneruotame turinyje?
A: Dezinformacija gali kilti iš AI sistemų, apmokomų netiksliose ar pasibaisėtose duomenų rinkiniuose, arba iš AI neteisingai interpretuojant teisingus duomenis nenorimais būdais.
AI sugeneruotų apžvalgų privalumai ir trūkumai
Privalumai:
– AI Overviews gali potencialiai suteikti greitesnes, tikslesnes suderinimo su kompleksine informacija.
– Sistema gali padidinti paieškos efektyvumą, suteikdama vartotojams reikiamą informaciją be reikalavimo spustelėti kelias nuorodas.
– Išnaudojant mašininį mokymą, Google gali nuolat tobulinti platformą laikui bėgant, prisitaikydamas prie naujų duomenų ir vartotojų atsiliepimų.
Trūkumai:
– Sistema pažeidžiama klaidomis ir gali skleisti dezinformaciją, jei nebus rūpestingai stebima ir koreguojama.
– Tai gali sumažinti eismą į išorines svetaines, kas gali pakenkti leidėjų auditorijai ir reklamos pajamoms.
– Yra rizika per daug pasitikėti AI, vartotojams priimdant AI sugeneruotą informaciją be kritinio mąstymo ar patikrinimo.
Internetinio turinio teisingumo užtikrinimas yra nuolatinis uždavinys paieškos sistemoms, tokioms kaip Google, kurios privalo subalansuoti AI įrankių naudingumą prieš dezinformacijos platinimo riziką. Norėdami gauti daugiau informacijos apie Google platesnius pastangas ir ypatybes, galite apsilankyti „Google“ pagrindiniame domene adresu Google.