Den teknologiska utvecklingen inom konstgjord intelligens (AI) i Indien tar återigen ett steg framåt när regeringen slopar tillståndskravet för icke-testade AI-modeller. I ett färskt råd som utfärdats av Ministeriet för elektronik och informationsteknik har kraven för efterlevnad finslipats enligt IT-reglerna från 2021. Dock förblir betoningen på märkning av AI-genererat innehåll intakt.
Det tidigare rådet från den 1 mars 2024 krävde att företag skulle söka regeringens godkännande innan de implementerade icke-testade eller opålitliga AI-modeller. Det nya rådet ersätter detta krav och avskaffar behovet av tillstånd under utvecklingen av AI-modeller.
Ministeriet har observerat att IT-företag och plattformar ofta försummar sina skyldigheter att göra nödvändig bedömning enligt reglerna för informationsteknologi (mellanhandsregler och etiska kod för digitala medier) från 2021. För att ta itu med detta problem betonar regeringen vikten av att märka AI-genererat innehåll.
Företag som använder AI-programvara eller plattformar är nu skyldiga att märka innehåll som genererats med hjälp av AI-verktyg och informera användarna om den potentiella bristfälligheten eller opålitligheten hos resultatet. Detta inkluderande tillvägagångssätt syftar till att förhindra spridningen av desinformation eller deepfakes.
Rådet konstaterar, ”När någon mellanhand via sin programvara eller någon annan datorresurs tillåter eller underlättar syntetisk skapande, generering eller modifiering av en text, ljud, visuell eller audiovisuell information på ett sådant sätt att informationen potentiellt kan användas som desinformation eller deepfake, rekommenderas att sådan information som skapats, genererats eller modifierats via sin programvara eller någon annan datorresurs märks…att sådan information har skapats, genererats eller modifierats med hjälp av mellanhandsens datorresurs.”
Dessutom, om användare ändrar innehållet bör metadata konfigureras för att möjliggöra identifieringen av användaren eller datorresursen ansvarig för ändringen.
Då regeringen strävar efter att upprätthålla transparens och ansvar i AI-sektorn kommer detta råd efter en kontrovers kring Googles AI-plattforms svar på frågor relaterade till premiärminister Narendra Modi. Regeringens snabba agerande understryker behovet av att reglera sociala medier och andra plattformar, säkerställa märkning av icke-testade AI-modeller och förhindra hosting av olagligt innehåll.
FAQ:
1. Varför slopade regeringen tillståndskravet för icke-testade AI-modeller?
A: Regeringen strävar efter att effektivisera utvecklingsprocessen genom att avskaffa behovet av tillstånd under utvecklingen av AI-modeller och anpassa efterlevnadskraven med IT-reglerna från 2021.
2. Vad är det främsta fokuset i det nya rådet?
A: Det främsta fokuset är att märka AI-genererat innehåll för att informera användarna om potentiell bristfällighet eller opålitlighet hos resultatet.
3. Hur hanterar rådet frågan om desinformation och deepfakes?
A: Genom att kräva att företag märker AI-genererat innehåll syftar rådet till att förhindra spridningen av desinformation och deepfakes.
4. Vilka åtgärder bör vidtas om användare ändrar det AI-genererade innehållet?
A: Metadata bör konfigureras för att identifiera användaren eller datorresursen ansvarig för ändringen.
5. Varför betonar regeringen transparens och ansvar i AI-sektorn?
A: Regeringens betoning på transparens och ansvar är för att reglera sociala medier och andra plattformar, förhindra hosting av olagligt innehåll och upprätthålla förtroende i AI-sektorn.
Källor:
Ministeriet för elektronik och informationsteknik: [URL]
Definitioner:
– Konstgjord intelligens (AI): Teknik som gör det möjligt för maskiner eller datorsystem att härma mänsklig intelligens och utföra uppgifter som normalt kräver mänsklig intelligens, såsom problemlösning, mönsterigenkänning och beslutstagande.
– Efterlevnadskrav: Regler och bestämmelser som organisationer måste följa för att uppfylla vissa standarder och säkerställa laglig och etiskt korrekt verksamhet.
– IT-regler från 2021: Hänvisar till reglerna för informationsteknologi (mellanhandsregler och etiska kod för digitala medier) från 2021 som fastställer regler och riktlinjer för mellanhänder, sociala medieplattformar och digitala medier.
– AI-genererat innehåll: Innehåll, såsom text, ljud, visuell eller audiovisuell information, som skapas, genereras eller modifieras med hjälp av AI-verktyg eller plattformar.
– Bristfällighet: Potentialen för fel eller misstag.
– Opålitlighet: Bristen på pålitlighet eller trovärdighet.
– Metadata: Beskrivande data som tillhandahåller information om annan data, i detta fall information om det AI-genererade innehållet, såsom dess källa eller ursprung.
Relaterade länkar:
Ministeriet för elektronik och informationsteknik: [URL]
The source of the article is from the blog maestropasta.cz