V nedávnom vývoji Ministerstvo elektroniky a informačných technológií (MeitY) v Indii podniklo významné zmeny vo svojom usmernení týkajúcom sa používania umelej inteligencie (AI) sociálnymi médií. Nové usmernenie, ktoré bolo vydávané v piatok, nahradilo predchádzajúcu poznámku vydanú 1. marca, ktorá definovala dôkladnosť, ktorú majú dodržiavať sprostredkovatelia a platformy podľa zákona o informačných technológiách z roku 2000 a pravidiel o sprostredkovateľoch a etickom kóde digitálnych médií z roku 2021.
Jednou z kľúčových zmien v pozmenenom usmernení je odstránenie ustanovenia, ktoré nariadilo sprostredkovateľom a platformám získať povolenie od vlády pred implementáciou „nedostatočne testovaných“ alebo „nepresných“ modelov a nástrojov AI. Nové usmernenie zdôrazňuje, že nedostatočne testované a nepresné modely AI by mali byť dostupné v Indii len v prípade, ak sú jasne označené, aby informovali užívateľov o možnej nepresnosti alebo nespolahlivosti generovaných výstupov.
Okrem toho sa pozmenené usmernenie sústredí na zabezpečenie, aby AI modely a algoritmy používané sprostredkovateľmi neumožňovali predsudky alebo diskrimináciu a nenarúšali integritu volebného procesu. Tiež odporúča sprostredkovateľom používať vyskakovacie okná súhlasu alebo podobné mechanizmy na explicitné informovanie užívateľov o nespolahlivosti výstupov vytvorených pomocou AI.
Ministerstvo si zachováva dôraz na identifikáciu a zmiernenie deepfake videí a dezinformácií. Odporúča sprostredkovateľom označiť alebo vložiť obsah s jedinečnými metadátami alebo identifikátormi, aby bol ľahko identifikovateľný. Usmernenie sa zaoberá rôznymi formami obsahu, vrátane zvukového, vizuálneho, textového a audiovizuálneho obsahu. Jeho zámerom je identifikovať obsah, ktorý by mohol byť potenciálne využitý na šírenie dezinformácií alebo deepfake videí, pričom sám pojem „deepfake“ zostáva nedefinovaný.
Pozmenené usmernenie taktiež vyžaduje, aby sprostredkovatelia konfigurovali metadáta tak, aby bolo možné identifikovať užívateľov alebo počítačové prostriedky zodpovedné za akékoľvek zmeny v obsahu. Dôležité je, že usmernenie už neobsahuje jazyk týkajúci sa „prvého pôvodcu“.
Dôležité je poznamenať, že pozmenené usmernenie sa vzťahuje na osem významných sprostredkovateľov sociálnych médií v Indii, konkrétne Facebook, Instagram, WhatsApp, Google/YouTube (pre Gemini), Twitter, Snap, Microsoft/LinkedIn (pre OpenAI) a ShareChat. Nevzťahuje sa však na Adobe, Sarvam AI a Krutrim AI od Ola.
Predchádzajúce usmernenie z 1. marca čelilo kritike zo strany mnohých zakladateľov startupov, ktorí ho považovali za škodlivý krok. Aktualizované usmernenie si kladie za cieľ dosiahnuť rovnováhu tým, že stanovuje ochranné opatrenia pre veľké jazykové modely a modely AI používané poprednými platformami sociálnych médií, pričom uznaním, že samotné modely nie sú sprostredkovateľmi ani významnými sprostredkovateľmi sociálnych médií podľa definovaných kritérií.
Keďže technológia AI pokračuje vo svojom vývoji a stáva sa neoddeliteľnou súčasťou našich každodenných životov, je pre vlády dôležité stanoviť účinné regulácie, ktoré budú riešiť potenciálne výhody a riziká spojené s AI. Pozmenené usmernenie od MeitY odráža meniaci sa kontext regulácií AI v Indii, so zameraním na transparentnosť a zodpovednosť pri používaní AI sprostredkovateľskými spoločnosťami sociálnych médií.
The source of the article is from the blog kunsthuisoaleer.nl