Indická vláda nedávno vydala doporučení, vyzývající technologické společnosti, aby získaly explicitní povolení před veřejným spuštěním „nestabilních“ nebo „nedostatečně testovaných“ generativních modelů nebo nástrojů umělé inteligence. Tento krok představuje změnu ve vládním dosavadním přístupu k regulaci umělé inteligence (AI).
Doporučení také varuje technologické společnosti, že jejich AI produkty by neměly generovat odpovědi, které by mohly „ohrozit integritu volebního procesu,“ neboť se Indie připravuje na své národní volby. Toto doporučení přichází poté, co vyvolalo kontroverzi Googlovo Gemini kvůli jeho odpovědi na dotaz ohledně premiéra Narendry Modiho, kde ho označil jako „obviněného z provádění politik, které někteří odborníci charakterizovali jako fašistické.“
Nicméně místo přímé citace může být odpověď shrnuta tak, že Google uznává obvinění týkající se Modího a jeho vlády za represivní opatření vůči nesouhlasícím a násilí vůči náboženským menšinám.
Indické ministerstvo elektroniky a informačních technologií (MeitY) vydalo doporučení v reakci na tento incident a obavy zaujatých AI produktů. Zatímco dodržování doporučení není automaticky závazné, nedodržení by mohlo vést k postihu podle indického zákona o informačních technologiích. Právní odborníci naznačují, že by to mohlo být spíše politické prohlášení než vážná politika, poskytující náhled na pohled tvůrců politiky.
Zatímco někteří podnikatelé v oblasti AI mají obavy, že nadměrná regulace by mohla zmařit inovace v mladém průmyslu AI, jiní se obávají, že doporučení dává vládě kontrolu nad ovlivňováním online prostorů. Vláda však upřesnila, že doporučení platí pouze pro „významné platformy“ a startupy budou zproštěny povinnosti žádat předchozí povolení k nasazení generativních AI nástrojů.
Přestože byla poskytnuta upřesnění, stále panuje nejistota ohledně doporučení kvůli jeho nejasným podmínkám a nedostatku jasnosti. Kritici argumentují, že narychlo vydáno doporučení odražuje od mentalitního „licence raj,“ odkazujícího na byrokratický systém vyžadující vládní povolení pro podnikatelské aktivity, které v minulosti brzdily ekonomický růst a inovace.
Dále se objevují obavy ohledně osvobození pro startupy, neboť i ony by mohly produkovat politicky zaujaté odpovědi nebo halucinace při generování nesprávných nebo fiktivních výstupů pomocí AI. Osvobození vyvolává otázky ohledně záměrů vlády a toho, zda je přístup „nejdříve povolení“ tím nejlepším řešením.
Snahy Indie o regulaci obsahu AI mají také geopolitický význam. Vzhledem k tomu, že politiky země stanovují precedent pro ostatní národy, zejména v rozvojovém světě, budou ovlivňovat způsob přístupu k regulaci obsahu AI a správě dat globálně.
Regulace obsahu AI ze strany vlády si klade za cíl zamezit šíření manipulovaných médií, zejména během voleb. S miliony Indů připravujících se na hlasování v nadcházejících národních volbách, vzestup snadno dostupných generativních AI nástrojů vyvolal obavy o integritu voleb. Politické strany v Indii byly známy tím, že během volebních kampaní nasazovaly deepfake videa.
Analytici tvrdí, že je sice důležité regulovat AI, ale politika vyžadující předchozí souhlas vlády před spuštěním produktu by mohla zmařit inovace. Byly navrženy opatření k vytvoření sandboxového prostředí, kde lze testovat AI řešení bez velkovýroby, což umožní subjektům posoudit jejich spolehlivost.
Celkově se indické doporučení vlády týkající se povolení regulace generativních modelů AI snaží adresovat obavy ohledně zaujatých odpovědí a integritu voleb. Zatímco je vnímáno jako krok směrem k zajištění odpovědného používání AI, konkrétní podoby a důsledky doporučení zůstávají předmětem dalšího zkoumání a vývoje.
FAQ:
1. Proč indická vláda vydala doporučení týkající se generativních modelů a nástrojů AI?
– Indická vláda vydala doporučení k regulaci použití generativních modelů a nástrojů AI, které vyžaduje, aby technologické společnosti získaly explicitní povolení před veřejným spuštěním „nestabilních“ nebo „nedostatečně testovaných“ AI produktů. Tím došlo ke změně ve vládním dosavadním přístupu k regulaci AI.
2. Jaký hlavní problém adresuje doporučení?
– Doporučení varuje technologické společnosti, že jejich AI produkty by neměly generovat odpovědi, které by mohly „ohrozit integritu volebního procesu,“ zejména ve chvíli, kdy se Indie připravuje na své národní volby. Toto bylo vyvoláno kontroverzní odpovědí Googlu Gemini na dotaz ohledně premiéra Narendry Modiho.
3. Jaká byla obvinění Googlu proti premiérovi Modimu?
– Google uznal obvinění proti premiérovi Modimu týkající se represe vůči názorové diverzitě a násilí vůči náboženským menšinám. Nicméně nepřinesl přímou citaci odpovědi, která ho označila jako „obviněného z provádění politik, které někteří odborníci charakterizovali jako fašistické.“
4. Jaké jsou možné následky nedodržení doporučení?
– Zatímco dodržování doporučení není automaticky závazné, nedodržení by mohlo vést k postihu podle indického zákona o informačních technologiích.
5. Jsou startupy osvobozeny od povinnosti žádat předchozí povolení k nasazení generativních AI nástrojů?
– Ano, doporučení platí pouze pro „významné platformy“ a startupy budou osvobozeny od nutnosti žádat předchozí povolení k nasazení takových nástrojů.
6. Jaké obavy vznikají týkající se osvobození pro startupy?
– Kritici argumentují, že startupy mohou také produkovat politicky zaujaté odpovědi nebo nesprávné výstupy při používání AI. To vyvolává otázky ohledně záměrů vlády a toho, zda je přístup „nejdříve povolení“ tím nejlepším řešením.
7. Jaký geopolitický význam mají snahy Indie regulovat obsah AI?
– Politiky Indie týkající se regulace obsahu AI a správy dat stanovují precedens pro ostatní národy, zejména v rozvojovém světě. Ovlivní způsob přístupu k regulaci obsahu AI globálně.
8. Jaký je cíl vládního regulování obsahu AI?
– Vláda si klade za cíl zamezit šíření manipulovaných médií, zejména během voleb, a zajistit integritu voleb.
9. Jaké opatření bylo navrženo k nalezení rovnováhy mezi regulací AI a inovacemi?
– Někteří navrhli vytvoření sandboxového prostředí, kde by bylo možné testovat AI řešení bez velkovýroby, což by subjektům umožnilo posoudit jejich spolehlivost a řešit obavy.
10. Jaký je současný stav doporučení?
– Doporučení je vnímáno jako krok směrem k odpovědnému používání AI, ale jeho konkrétní podoby a důsledky jsou stále předmětem dalšího zkoumání a vývoje.
Definice:
– Generativní AI modely: AI modely, které mohou generovat nový obsah, jako je text, obrazy nebo videa, na základě naučených vzorů z existujících dat.
– Deepfake: Uměle vytvořená média, která kombinují nebo nahrazují existující obsah, často používaná k vytváření falešných videí nebo obrazů.
Navrhované související odkazy:
– Ministry of Electronics and Information Technology
– Government of India
– National Institution for Transforming India
The source of the article is from the blog publicsectortravel.org.uk