V nedávné době Ministerstvo elektroniky a informační technologie (MeitY) v Indii provedlo významné revize svého doporučení týkajícího se využívání umělé inteligence (AI) sociálními mediálními společnostmi. Nové doporučení, vydané v pátek, nahrazuje předchozí poznámku vydanou 1. března, která stanovila důkladnost, kterou mají dodržovat prostředníci a platformy podle zákona o informační technologii z roku 2000 a pravidel o intermediárních a etickém kódě digitálních médií z roku 2021.
Jednou z klíčových změn v revidovaném doporučení je odstranění ustanovení, které vyžadovalo, aby prostředníci a platformy získaly povolení vlády před nasazením „nedostatečně otestovaných“ nebo „nepřesných“ modelů a nástrojů AI. Nové doporučení naopak zdůrazňuje, že nedostatečně otestované a nepřesné modely AI by měly být v Indii dostupné pouze poté, co jsou jasně označeny, aby informovaly uživatele o potenciální chybovosti nebo nepřesnosti generovaného výstupu.
Dále se revidované doporučení zaměřuje na to, aby modely a algoritmy AI používané prostředníky nepřipouštěly zkreslení nebo diskriminaci a nijak nehrozily integritě volebního procesu. Radí také prostředníkům, aby používali informační okna s nabídkou souhlasu nebo podobné mechanismy, aby uživatele explicitně informovaly o nevěrohodnosti výstupů generovaných pomocí AI.
Ministerstvo si dále udržuje důraz na identifikaci a zmírnění podvrhů a dezinformací. Radí prostředníkům, aby označovali nebo vkládali obsah s unikátními metadaty nebo identifikátory, aby byl snadno identifikovatelný. Doporučení pokrývá různé formy obsahu, včetně zvukových, vizuálních, textových a zvukověvizuálních. Cílem je identifikovat obsah, který by mohl být potenciálně použit jako dezinformace nebo podvrh, přestože samotný termín „deepfake“ zůstává nevyjasněný.
Revidované doporučení také vyžaduje, aby prostředníci konfigurovali metadata tak, aby umožnily identifikaci uživatelů nebo počítačových zdrojů zodpovědných za jakékoli změny provedené na obsahu. Je zvláštní, že doporučení již neobsahuje jazyk týkající se „prvního původce“.
Je důležité poznamenat, že revidované doporučení se vztahuje na osm významných sociálních mediálních prostředníků v Indii, a to konkrétně Facebook, Instagram, WhatsApp, Google/YouTube (pro Gemini), Twitter, Snap, Microsoft/LinkedIn (pro OpenAI) a ShareChat. Nicméně neplatí pro společnosti Adobe, Sarvam AI a Ola’s Krutrim AI.
Předchozí březnové doporučení čelilo kritice mnoha zakladatelů startupů, kteří jej považovali za škodlivý krok. Aktualizované doporučení si klade za cíl dosáhnout vyváženosti tím, že nastavuje ochranné zábrany kolem velkých modelů jazyka a modelů AI používaných prominentními sociálními mediálními platformami, a zároveň uznává, že samotné modely nejsou intermediáři nebo významnými sociálními mediálními prostředníky podle stanovených kritérií.
Vývojem technologie AI a jejím stále větším zapojením do našich každodenních životů je zásadní, aby vlády vytvářely efektivní regulace, které se zabývají jak potenciálními výhodami, tak riziky spojenými s AI. Revize doporučení od MeitY odráží novou oblast regulace umělé inteligence v Indii, s důrazem na transparentnost a odpovědnost využívání AI společnostmi sociálních médií.
The source of the article is from the blog mgz.com.tw