Regjeringen har nyleg gitt råd til sosiale medieplattformer og andre mellomledd, der dei oppfordrar dei til å merke uferdige AI-modeller og forhindre hosting av ulovlig innhold. Departementet for elektronikk og informasjonsteknologi (MeitY) gav dette rådet den 1. mars og understreka at manglende etterlevelse kan føre til straffetiltak.
Rådet krev at alle mellomledd og plattformer sikrar at datamaskinressursane deira ikkje tillèt brukarar å hoste, vise, laste opp, endre, publisere, sende, lagre, oppdatere eller dele ulovlig innhold. Det vert vidare påpeikta at alle plattformer, mellomledd og enabling programvare vil bli holdt ansvarlege for eventuelle brot på desse bestemmelsane.
Dette rådet kjem i kjølvatnet av ein nyleg kontrovers som involverer Google sin AI-plattform, Gemini, og responsen deira på spørsmål om statsminister Narendra Modi sine politikkar. Regjeringa reagerte kraftig på kommentarene frå Gemini og omtalte dei som eit brot på IT-lovene.
I lys av denne hendinga understreka Union Minister for Elektronikk og IT, Rajeev Chandrashekhar, behovet for at plattformar openlyst gjer kjend og søkar samtykke frå forbrukarar før dei implementerer nokon uferdige eller feilaktige plattformer på det indiske internett. Han understreka at ansvar ikkje kan unngås ved å beklage seinare.
Rådet legg òg vekt på kravet om at plattformar må søkje godkjenning frå regjeringa før dei implementerer uferdige eller upålitelege AI-modeller. Det tilrår at slike modeller vert merka for å anerkjenne mogleg feilbarheit eller upålitelighet.
For å sikre brukarmedvit anbefaler rådet bruk av ein «samtykke popup»-mekanisme som eksplicit informerer brukarar om eventuell feilbarheit eller upålitelighet i resultatet generert av AI-modellane.
Minister Chandrashekhar presiserte at regjeringa sin intensjon ikkje er å ta kontroll, men å skape eit sunt og berekraftig økosystem. Dei meiner at å tillate alle plattformar på internett utan skikkelig regulering ikkje er føremålstenleg for den generelle velferden av det digitale rommet.
Dette rådet byggjer på eit tidlegare råd gjeve i desember 2023, som fokuserte på å handtere deepfakes og misinformasjon. Gjennom desse råda har regjeringa som mål å etablere eit rammeverk for å regulere bruken av AI-modellar samtidig som dei vernar mot spreiing av ulovlig innhold.
The source of the article is from the blog be3.sk