Google nedávno oznámil omezení schopnosti AI chatbotu Gemini reagovat na dotazy týkající se připravovaných voleb v několika zemích včetně Spojených států. Tato rozhodnutí mají za cíl zabránit možným chybám při nasazování technologií a zajistit poskytování přesných a spolehlivých informací během volebních období.
Motivací Googlu za tímto omezením je vyřešení obav ohledně šíření falešných zpráv a dezinformací, ke kterým došlo s rozvojem generativní AI technologie. Omezením odpovědí Gemini na dotazy týkající se voleb Googlu jde o minimalizaci šíření zavádějících nebo nepřesných informací.
Omezení byla poprvé zavedena ve Spojených státech loni před prezidentskými volbami v roce 2024. Společnost nyní rozšiřuje tato omezení do různých zemí včetně hlavních politických hráčů jako jsou Jihoafrická republika, Rusko a Indie.
Google uznal důležitost tématu a zdůraznil svoje závazky k poskytování informací vysoce kvalitně týkajících se voleb. Tento vyhledávací gigant tento zákaz bere vážně a neustále pracuje na zlepšování opatření, která jsou nastavena.
Rozhodnutí Googlu navazuje na podobné snahy jiných technologických platforem, jako je například Facebook. S nástupem obsahu produkováno AI, jako jsou deepfaky, roste obava ze šíření dezinformací týkajících se voleb. Podle statistik od startupu v oblasti strojového učení Clarity, počet AI-generovaných deepfaků se zvýšil o 900 % za rok.
Obava z volební propagandy se zvýšila od prezidentské kampaně v roce 2016, kde ruští herci využívali různé metody k šíření falešných informací na sociálních médiích. Z tohoto důvodu se zákonodárci stále zvětšují obezřetnost vůči nástupu AI technologií a jejich potenciálnímu dopadu na volby.
Produkty AI Googlu čelí kritice kvůli chybám v historických obrazech vytvořených Geminim. Po této události odsoudil CEO Sundar Pichai tendenční a nepřijatelné reakce chatbotu a zavázal se k rychlému řešení těchto problémů.
K boji proti dezinformacím a zneužívání generativní AI, i další technologická obříčci, jako Meta Platforms (dříve Facebook), přijaly proaktivní opatření. Nedávno oznámily vznik speciálního týmu, který se zabývá výzvamy, jež jsou způsobeny dezinformacemi před volbami do Evropského parlamentu.
Rozhodnutí Googlu omezit reakce chatbotu Gemini na dotazy týkající se voleb odráží širší trend v rámci technologického průmyslu, který se snaží řešit dopad AI na volby. Prostřednictvím těchto opatření technologické společnosti usilují o to, aby byly občanům dostupné přesné a spolehlivé informace během kritických demokratických procesů.
FAQ
The source of the article is from the blog bitperfect.pe