Az Elektronikai és IT Minisztérium friss tanácsot adott ki, amely megszünteti az engedély nélkül fejlesztett AI modellek engedélyezésére vonatkozó kötelezettséget. Ehelyett a tanács az IT Szabályokkal összhangban újrahangolja a betartandó előírásokat. Ez a lépés arra törekszik, hogy kezelje azt az észrevételt, miszerint az IT vállalatok és platformok gyakran elhanyagolják az Információs Technológiai Szabályokban meghatározott gondossági kötelezettségeiket.
A friss tanács értelmében az állam mostantól előírja, hogy a vállalatok címkézzék az AI szoftverükkel vagy platformjukkal generált tartalmat. Emellett tájékoztatniuk kell a felhasználókat azzal kapcsolatban, hogy az általuk használt AI eszközökkel legenerált kimenet potenciális tévedhetőségéről vagy megbízhatatlanságáról. A címkézési követelmény célja a dezinformáció vagy a deepfake-ek terjedésének megakadályozása, melyek ilyen szoftverekkel vagy számítási forrásokkal lehetnek létrehozva, generálva vagy módosítva.
Továbbá a tanács hangsúlyozza a metadaták konfigurálásának fontosságát annak érdekében, hogy megkönnyítse a felhasználók vagy a tartalom módosításáért felelős számítási források azonosítását. Ez a lépés biztosítja a transzparenciát és a felelősségvállalást a módosítások esetében.
Az új tanácsra azután volt szükség, hogy egy olyan kontroverziális helyzet merült fel, amelyben a Google AI platformja kétes válaszokat nyújtott a miniszterelnök, Narendra Modi kapcsán. Ennek következtében, március 1-jén a kormány tanácsot adott ki a közösségi média és más platformok számára, hogy címkézzék az elbírálás alatt álló AI modelleket, és megakadályozzák a törvénytelen tartalmak hostingolását. A miniszter elektronikai és információs technológiáért felelős tárca figyelmeztetett, hogy a direktívumok nem teljesítése büntető intézkedéseket vonhat maga után.
Az állam az engedélyezés nélküli vagy megbízhatatlan mesterséges intelligencia modellek bevezetésére vonatkozó engedélyezési kötelezettség eltávolításával nagyobb rugalmasságot kínál az AI fejlesztésében. Ugyanakkor hangsúlyozza a modelljekek jelölésének és tartalmának jelentőségét, biztosítva, hogy a felhasználók tudatában legyenek azok potenciális tévedékenységének vagy megbízhatatlanságának.
Ez az irányelv összességében egyensúlyt próbál teremteni az AI innováció előmozdítása és a felhasználók azáltali védelme a félrevezető információktól. Az IT vállalatok és platformok vállára helyezett felelősség által az állam azt kívánja elérni, hogy kezelje azokat a problémákat, amelyek az AI modellek bevezetése körül merülnek fel, anélkül, hogy a transzparencián és felelősségvállaláson kellene engedni.
Gyakran Ismételt Kérdések (GYIK)
1. Mi a célja az Elektronikai és IT Minisztérium által kiadott új tanácsnak?
Az új tanács az AI modellek fejlesztése érdekében az engedélykérési kötelezettség megszüntetésére törekszik, miközben hangsúlyozza az AI szoftverrel vagy platformmal generált tartalom címkézésének fontosságát. Célja az IT vállalatok és platformok gondossági kötelezettségeinek elhanyagolását és a dezinformáció vagy deepfake tartalom terjesztését megelőzni.
2. Hogyan kezeli a tanács az AI által generált tartalom címkézését?
A tanács előírja, hogy a vállalatok címkézzék a tartalmat annak érdekében, hogy tájékoztassák a felhasználókat az általuk használt AI eszközökkel legenerált kimenet potenciális tévedhetőségéről vagy megbízhatatlanságáról. Ez a címkézési követelmény segít a felhasználóknak azonosítani a dezinformáció vagy deepfake-ek terjesztésére használt tartalmakat.
3. Milyen intézkedéseket javasol a tanács a tartalmak átláthatóságának érdekében?
A transzparencia érdekében a tanács azt javasolja, hogy konfigurálják a metadatákat, amelyek lehetővé teszik a felhasználók vagy a tartalom módosításáért felelős számítási források azonosítását. Ez a lépés elősegíti az elszámoltathatóságot és megkönnyíti a módosítások követését.
4. Mi indokolta ennek a tanácsnak a kiadását?
A tanács akkor került kiadásra, miután egy olyan vita merült fel a Google AI platformjával kapcsolatban, amely kétes válaszokat adott a miniszterelnök, Narendra Modi kapcsán. Ennek eredményeképpen a kormány proaktív megközelítést választva arra kérte a közösségi média és más platformokat, hogy címkézzék az elbírálás alatt álló AI modelleket és megakadályozzák a törvénytelen tartalmak hostingolását, ami a friss tanácsot eredményezte.
Források:
– Hindustan Times – hindustantimes.com
– Elektronikai és Információs Technológiai Minisztérium – meit.gov.in
The source of the article is from the blog procarsrl.com.ar