Google nedávno oznámil, že bude omezovat typy dotazů souvisejících s volbami, které uživatelé mohou položit jeho chatbotu Gemini. Tato opatření byla zavedena jak ve Spojených státech, tak v Indii právě včas pro nadcházející volby v těchto zemích.
Rozhodnutí o omezení dotazů je výsledkem závazku Googlu poskytovat vysoce kvalitní informace a chránit uživatele před možným dezinformacemi týkajícími se voleb. Ve svém blogovém příspěvku společnost uvedla: „Prozatím jsme z důvodu velké opatrnosti ohledně tohoto důležitého tématu začali zavádět omezení pro typy volbami souvisejících dotazů, na které chatbot Gemini bude reagovat. Vážíme si naší odpovědnosti poskytovat vysoce kvalitní informace pro tyto typy dotazů, a neustále pracujeme na zlepšování naší ochrany.“
Podle mluvčího Googlu tyto změny souzní s plánovaným přístupem společnosti k volbám. Mluvčí uvedl: „Jak jsme sdíleli v prosinci minulého roku, v přípravě na mnoho voleb, které se odehrají po celém světě v roce 2024, a z důvodu velké opatrnosti, jsme omezovali typy volebních dotazů, na které chatbot Gemini bude reagovat.“
Toto opatření přichází poté, co se Google potýkal s kontroverzemi kolem svého nástroje na generování obrazů umělé inteligence, které byly nedávno staženy kvůli historickým nepřesnostem a kontroverzním reakcím. Nástroj byl představen v únoru jako součást rebrandingového úsilí v rámci geminiové nadstavby Google AI. Nicméně generální ředitel odvětví DeepMind ve společnosti Google, Demis Hassabis, potvrdil, že tato funkce je v současné době offline, zatímco se provádí vylepšení.
Zavedení těchto omezení Googlem přichází v době, kdy technologické platformy připravují zásadní množství světových voleb, které mají potenciál ovlivnit miliardy lidí. Obavy o dezinformace týkající se voleb, zejména prostřednictvím obsahu generovaného umělou inteligencí, rostou. Firma Clarity zabývající se strojovým učením uvádí, že počet vygenerovaných deepfakeů se meziročně zvýšil o 900 %.
Problém dezinformací týkající se voleb se stal problémem od americké prezidentské kampaně v roce 2016, kde ruské subjekty využívaly různé metody k šíření nepřesných informací na sociálních platformách. Zákonodárci jsou nyní ještě více znepokojeni vzestupem umělé inteligence a jejím potenciálem zavést voliče v omyl v kampaních. Detekce a řešení deepfakeů se ukázalo jako obtížné, protože pokroky v technologiích detekce a vodoznaku nedokázaly držet krok.
V posledních měsících Google projevil silný závazek investovat do asistentů a agentů umělé inteligence, včetně chatbotů a dalších produktivních nástrojů. Generální ředitel Sundar Pichai uvedl, že si představuje agenta umělé inteligence, který může zvládat více úkolů pro uživatele, přičemž Google Search je jednou z oblastí zájmu. Toto souzní s širším průmyslovým trendem hlavních technologických společností, jako jsou Microsoft a Amazon, které dávají přednost rozvoji agentů umělé inteligence jako produktivních nástrojů.
Rebranding Gemini Googlu, stejně jako uvedení nových aplikací a rozšíření funkcí, signalizují úsilí společnosti o budování komplexního asistenta umělé inteligence. S implementací omezení pro dotazy související s volbami pro Gemini si Google klade za cíl poskytnout uživatelům spolehlivé a přesné informace během klíčových volebních období.
Často kladené otázky (FAQ)
1. Proč Google omezuje dotazy související s volbami pro svého chatbota, Gemina?
Google implementuje tato omezení s cílem zajistit poskytování kvalitních informací a chránit uživatele před možnými dezinformacemi během voleb.
2. Platí tato omezení pouze pro konkrétní země?
V současné době byla omezení zavedena jak ve Spojených státech, tak v Indii, kde se volby mají konat v blízké budoucnosti.
3. Co vedlo k rozhodnutí Googlu zavést tato omezení?
Rozhodnutí Googlu následuje po kontroverzích kolem jeho nástroje na generování obrazů umělé inteligence, který byl stažen kvůli historickým nepřesnostem a kontroverzním reakcím. Společnost aktivně pracuje na vylepšení a opravě nástroje před jeho opětovným spuštěním.
4. Existují obavy z dezinformací souvisejících s volbami prostřednictvím obsahu generovaného umělou inteligencí?
Ano, existují značné obavy ohledně šíření dezinformací prostřednictvím obsahu generovaného umělou inteligencí, zejména deepfakeů. Počet generovaných deepfakeů se meziročně zvýšil o 900 %, což poukazuje na potřebu přísnějších opatření k řešení tohoto problému.
5. Jak se další technologické platformy vypořádávají s nárůstem obsahu generovaného umělou inteligencí?
Technologické giganty, včetně Microsoftu a Amazonu, zdvojnásobují svůj závazek rozvíjet agentům umělé inteligence jako produktivní nástroje. Investují masivně do rozvoje asistentů umělé inteligence k zvládání různých úkolů pro uživatele.
Zdroje:
– Google Blog
– CNBC
The source of the article is from the blog maestropasta.cz