Susidūrusi su sparčiai didėjančia neteisingos informacijos grėsme, kurią kelia dirbtinio intelekto technologija, Google skubiai atnaujino savo AI-generuojamą turinio platformą „AI Overviews” praėjusį penktadienį. Vartotojai pranešė gavę keistų ir net potencialiai pavojingų atsakymų į savo klausimus, skatinant technologijų gigantą greitai imtis veiksmų. Pasak įmonės, žingsniai buvo imti tuoj pat, kai atsirado problemos, pažeidusios turinio politikos gaires.
Klaidingi AI Atsakymai Skatina Greitus Google Veiksmus
Google „AI Overviews“ tapo dėmesio centre vartotojams pradėjus pastebėti keistus atsakymus į savo klausimus. Pavyzdžiui, paklaustas apie muslimų prezidentų Jungtinėse Valstijose skaičių, „AI Overviews“ neteisingai siūlė, kad Barackas Obama galėtų būti laikomas pirmuoju muslimų prezidentu. Google greitai pašalino šią neteisingą informaciją, patvirtindamas, kad ji pažeidė jų turinio nuostatas.
Kita vartotoja pasidalijo keista „AI Overviews“ rekomendacija. Atsakydama į klausimą, kaip išvengti sūrio lipimo prie picos, dirbtinio intelekto sistema pasiūlė naudoti „nekenksmingą klijų“, idėją, kuri, atrodo, kilo iš seno „Reddit“ pranešimo. Panašiai, „The Onion“ satyrinis pareiškimas buvo klaidingai panaudotas „AI Overviews“, nurodydamas, kad „CIA“ buvo paskelbęs naudojantis juodais markeriais ištrinti tekstą dokumentuose.
Google rimtai ėmėsi šių atvejų, juos panaudodamas tam, kad patobulintų sistemos tikslumą. Kai kurie patobulinimai jau buvo įgyvendinti. „AI Overviews“, kuri buvo pristatyta vidurį gegužės, siekia suteikti rašytinį atsakymą į paieškas, nukreipdama nuo tradicinių nuorodų pagrįsto rezultatų. Nors hiperlinksai vis dar galimi, jie dabar yra po AI sukurtu turiniu, kuris galėtų visiškai patenkinti vartotojų klausimus.
Iššūkiai ir Kontroversijos AI-Gamintame Turinyje
Vienas iš kritinių iššūkių su AI-gamintais turinio platformomis, kaip Google „AI Overviews“, yra netikros informacijos valdymas ir prevencija. Kadangi mašininio mokymosi algoritmai yra apmokomi dideliuose interneto duomenų rinkiniuose, jie gali neatsargiai platinti neteisybes ar pasipriešintiems rastiems laikinoje informacijoje. Užtikrinant šių sistemų patikimumą yra pagrindinis rūpestis kūrėjams, vartotojams ir suinteresuotiems asmenims.
Yra papildomų galimybių, kad blogieji veikėjai gali išnaudoti AI. Neteisybės ir dezinformacija yra rimtos grėsmės skaitmeniniame amžiuje, ypač kai AI gali gaminti įtikinamą, bet neteisingą turinį masėmis. Google, tarp kitų, turi nuolat atnaujinti algoritmus ir priežiūros priemones, kad apsisaugotų nuo šių grėsmių.
The source of the article is from the blog toumai.es