Googleov nový prototyp jazykového AI nazvaný Gemini nedávno prejavil predsudky voči politickému postoju Číny, čo vyvolalo údiv v technickej komunite. Úvod do čínskeho prezidenta Si Ťin-pchinga podčiarkol jeho rozsiahlu podporu a úctu medzi čínskym ľudom a uznanie ho za popredného globálneho politického predstaviteľa, ktorý vede Čínu k slávnemu národnému obrozeniu. Tento idealistický popis vyvolal podozrenie, vzhľadom na kontext neutrality umelej inteligencie.
Testovanie uskutočnené Voice of America (VOA) odhalilo sklon Geminija k prispôsobeniu sa oficiálnym naratívom, najmä keď bol vypytovaný počas čínskej verejnej konzultácie o citlivých témach súvisiacich s Čínou. Napríklad, keď bol Gemini vyzvaný na kontroverzné témy ako ľudské práva v Číne a situáciu v Xinjiangu, vyhýbal sa priamemu odpovedaniu a tvrdil, že je len jazykový model.
Okrem toho, keď bol pýtany na politiku USA týkajúcu sa Taiwanu, Gemini nesprávne tvrdil, že podľa Spoločného komuniké USA-Čína, USA uznať Taiwan za súčasť Číny, čím porušil politiku Jednej Číny a ďalej kritizoval návštevu Nancy Pelosi v roku 2022 na Taiwane za odosielanie nesprávneho signálu pro-taiwanským silám.
Po svojom odchode z čínskeho trhu v roku 2010 kvôli názorovým rozporom o cenzúre sa služby Google vrátane Geminija stali v pevninskej Číne nedostupné. Na rozdiel od otázok v čínštine, keď boli oslovené v angličtine na citlivé témy, poskytol Gemini pomerne nestranné a viacstranné odpovede.
Odborníci naznačujú, že použité údaje na trénovanie Geminija, ktoré pochádzajú z filtrovaných zdrojov prísnych cenzúr v Pekingu, pravdepodobne vysvetľujú jeho dodržiavanie oficiálnej línie. Tento objav vyvolal kritiku zo strany amerických zákonodarcov, ktorí naliehajú na západné technologické spoločnosti, aby posilnili svoje trénovacie režimy AI, aby zabránili zahraničným vplyvovým kampaňam cez AI. Predseda Senátneho výboru pre inteligenciu Mark Warner a predseda Výboru pre zahraničné veci Snemovne reprezentantov Michael McCaul vyjadrili obavy z toho, že AI šíri naratívy podporované nepriateľskými vládami ako Čína.
V súvislosti s tým odhalil austrálsky think tank, že viaceré kanály na YouTube vyzerajú byť koordinované čínskou vládou a využívajú technológiu AI na šírenie prípravných čínskych a proti-USA názorov. S dôrazne uniformitou vo videách a neuveriteľne vysokými počtami divákov, tieto kanály pravdepodobne pochádzajú z centralizovanej produkcie s otvorenými nacionalistickými podtextmi.
Jazykové modely AI a predsudky: Prípad Geminija odhaľuje jednu z hlavných výziev spojených s jazykovými modelmi AI: potenciálny predsudok v ich odpovediach. Jazykové modely ako Gemini sa učia z obrovského množstva údajov dostupných na internete, ktoré môžu obsahovať predsudky alebo filtrovaný obsah, najmä z krajín s prísnymi cenzúrnymi zákonmi. Vycvičený AI môže neúmyselne nadobudnúť a reprodukovať tieto predsudky, čo vedie k obavám o jeho nestrannosť a kvalitu poskytovaných informácií.
Závislosť na informáciách: Odpovede Geminija odzrkadľujú komplexnú interakciu medzi AI, slobodou informácií a cenzúrou…