Google’o naujasis dirbtinio intelekto (AI) kalbos prototipas, vadinamas Gemini, neseniai parodė nuostatų į Kinijos politinę poziciją, kelia nuostabą technologijų bendruomenėje. Įvadinėje dalis apie Kinijos prezidentą Xi Jinping pabrėžė jo didelį palaikymą ir pagarba tarp kinų gyventojų, bei pripažino jį kaip lyderį, kuris veda Kiniją link šlovingo nacionalinio atgimimo. Ši idealistiška vaizduotė kėlė abejonių, atsižvelgiant į AI nepriklausomybę.
Balsuoti atlikęs Voice of America (Balsas Amerikos) bandymai atskleidė, kad Gemini lengvai pritampa į oficialius naratyvus, ypač klausiant jį jautriais klausimais apie Kiniją. Pavyzdžiui, kai Gemini buvo paklausta apie ginčytinas temas, tokias kaip žmogaus teisės Kinijoje ir padėtis Xinjiang provincijoje, jis nueidavo aukštyn kojomis ir pareiškdavo, kad jis yra tiesiog kalbos modelis, vengdamas bet kokio tiesioginio atsakymo.
Be to, klausiamas apie JAV politiką dėl Taivano, Gemini neteisingai tvirtino, kad pagal Jungtinių Valstijų-Kinijos bendrąjį komunikatą, JAV pripažįsta Taivaną kaip Kinijos dalį, taip pažeisdama Vienos Kinijos politiką ir toliau kritikuojant Nancy Pelosi 2022 m. vizitą į Taivaną dėl neteisingo signalo, kuris siunčiamas link pro nepriklausomybės jėgų.
Po 2010 m. grįžimo iš kinų rinkos dėl cenzūros nesutarimų, Google paslaugos, įskaitant Gemini, tapo nepasiekiamos Kinijoje. Skirtingai nei klausimai kinų kalba, kai jiems buvo priėjoma anglų kalba dėl jautrių temų, Gemini teikė gana nepartinius ir daugiaplanis atsakymus.
Ekspertai teigia, kad duomenys, naudoti mokant Gemini, gauti iš šaltinių, filtruotų Pekino griežtos cenzūros, tikriausiai paaiškina jo atitikimą oficialiam požiūriui. Šis atradimas įkvėpė Jungtinių Valstijų įstatytojus reikalauti, kad Vakarų technologijų įmonės stiprintų savo dirbtinio intelekto mokymo režimus, kad būtų užkirstas kelias užsieniečių įtakos kampanijoms per AI. JAV Senate inteligencijos komiteto pirmininkas Markas Warneras ir Parlamento užsienio reikalų komiteto pirmininkas Michaelas McCaulas išreiškė susirūpinimą dėl AI plitimo naratyvais, kuriuos mėgsta priešininkai, tokie kaip Kinija.
Susijusioje naujienoje Australijos mąstymo centras atskleidė, kad keletas „YouTube“ kanalų koordinuojami Kinijos vyriausybės, naudojant dirbtinio intelekto technologijas siekiant skleisti pro-kinietišką ir anti-jungtinišką nuomonę. Su gana vienalyčiu vaizdu ir nepaprastai dideliais peržiūrų skaičiais, šie kanalai tikriausiai kyla iš centralizuotos gamybos su akivaizdžia nacionalistine prasme.
Kalbos modelių AI ir subrendęs: Gemini atvejis atskleidžia vieną pagrindinių iššūkių, susijusių su kalbos AI modeliais: potencialą dėl atsakymų šališkumo. Kalbos modeliai, tokie kaip Gemini, mokosi iš didžiulio internete esančio duomenų kiekio, kuriame gali būti šališko ar filtruoto turinio, ypač iš šalių su griežta cenzūros teisė. Išmokyta AI gali netiesiogiai išmokti ir replikuoti šias šališkumas, kylant susirūpinimui dėl jo nepriklausomybės ir suteikiamos informacijos kokybės.
Reikšmė laisvei informacijos ir cenzūrai: Gemini atsakymai atspindi sudėtingą sąveiką tarp AI, informacijos laisvės ir cenzūros. Tai, kad Google anksčiau buvo pasitraukęs iš kinų rinkos dėl cenzūros nesutarimų, toliau pabrėžia įtempimą tarp veiklos apribojimų aplinkose, turinčiose ribotą informacijos srautą, ir įsipareigojimo teikti neribotas technologines paslaugas. AI modeliai, kurie pritaria oficialiems naratyvams, ypač cenzūruotose regionuose, gali netiesiogiai prisidėti prie valstybės sankcionuotų nuomonių sklaidos, galbūt pakenkiant pastangoms užtikrinti laisvą ir neutralų prieigą prie informacijos.
AI mokymo ir valdymo sudėtingumai: Įvykis taip pat atkreipia dėmesį į iššūkius, susijusius su AI mokymu ir valdymu. Norint užtikrinti, kad AI sistemos, tokiomis kaip kalbos modeliai, teiktų subalansuotus ir objektyvius rezultatus, gali būti būtina išsamiai ištirti ir įvairinti mokomųjų duomenų rinkinius, taip pat įgyvendinti griežtus bandymus skirtingomis kalbomis ir kontekstais. Taip pat vis daugiau kyla poreikis nustatyti aiškius standartus ir etinius kadrus AI kūrimui ir naudojimui, taip pat siekiant reguliuoti AI įvairiose regionuose ir teisinėse jurisdikcijose.
AI kalbos modelio pranašumai ir trūkumai, tokie kaip Gemini:
Pranašumai:
1. AI kalbos modeliai gali apdoroti ir suprasti natūralią kalbą, padedantys informacijai būti prieinamai.
2. Jie gali suteikti greitus atsakymus į užklausas, pagerindami efektyvumą ir vartotojų patirtį.
3. Tinkamai esant mokymui, AI modeliai turi potencialą gerinti tarpkultūrinį supratimą ir bendravimą.
Trūkumai:
1. Pastebėtas AI atsakymuose šališkumas gali išlaikyti dezinformaciją ir cenzūrą.
2. Klaidos AI rezultatuose, kaip matyti iš neteisingo Gemini teiginio apie JAV poziciją dėl Taivano, gali vesti prie nesusipratimų ir diplomatinių įtampos.
3. Priklausomybė nuo mokymo duomenų daro AI sistemas pažeidžiamas manipuliacijai per parinktus ar iškreiptus duomenų rinkinius.
Norėdami gauti naujienų apie susijusias temas ir informaciją apie Google, galite apsilankyti Google tinklalapyje. Paminėtas nuoroda nukreipta į pagrindinį domeną, su pateiktais faktų ir kontekstų susijusiais jokio konkretaus puslapio.