Indiska regeringen har samarbetat med stora teknologiföretag för att hantera den växande oron för AI-genererad desinformation i den digitala sfären. Förbunds IT-minister Vaishnaw har bekräftat mötena som hölls mellan regeringsföreträdare och representanter från Google, Meta (tidigare känt som Facebook) och andra framstående företag, som svar på förfrågningar från Mint.
Med medvetenhet om behovet av försiktighetsåtgärder har både Google och Meta publicerat riktlinjer för hantering av AI-förändrat innehåll och reklam på olika plattformar som ChatGPT, Facebook, Google Sök, Instagram, WhatsApp och YouTube. Dessa riktlinjer understryker vikten av att märka AI-genererat innehåll och begränsa användningen av AI för att producera sökresultat relaterade till politiska figurer, partier och åsikter om de kommande allmänna valen 2024.
Adobe, skaparen av Photoshop, har också tagit ett försiktigt tillvägagångssätt vad gäller sin generativa verktyg kallat Firefly. Andy Parsons, Senior Director för Adobes initiativ för åthävor till innehållsäkthet, betonade företagets åtagande att förhindra manipulation eller skapande av bilder för politiska kampanjer.
Vidare hölls diskussioner om ansvarigheten för mellanhand, med undantag för Adobe, enligt Informationsteknik(Intermediary Guidelines and Digital Media Ethics Code) Regler, 2021. Enligt tjänstemän kan dessa mellanhänder möta åtal om de inte lyckas hindra spridningen av AI-assisterad desinformation. Denna oro kommer från den omfattande spridningen av AI i onlineinnehåll, vilket får teknikföretag att anta tekniker som vattenstämpel och metadata-märkning.
Indiska regeringens förmåga att förespråka för censur av specifika nyckelord återspeglar en ökande förståelse för AIs påverkan på den offentliga diskursen. Regeringar världen över inser att det inte finns någon enskild lösning för att bekämpa desinformation, särskilt med tanke på AIs inflytande. Denna medvetenhet kan styra regeringsbeslut att vara vaksamma mot AI-driven desinformation i demokratiska samhällen som Indien.
**Vanliga frågor**
1. Vad är AI-genererad desinformation?
AI-genererad desinformation syftar på falskt eller vilseledande innehåll som skapas eller manipuleras med hjälp av artificiell intelligens-teknologi.
2. Hur hanterar teknikföretag AI-genererad desinformation?
Teknikföretag som Google och Meta implementerar åtgärder såsom att märka AI-genererat innehåll, begränsa användningen av AI för att producera sökresultat om vissa politiska ämnen och verifiera äktheten hos AI-genererat innehåll.
3. Vad är Tech-avtalet för att bekämpa vilseledande användning av AI i 2024 års val?
Tech-avtalet, signerat av flera företag inklusive Adobe, Google, Meta, Microsoft, OpenAI och X, syftar till att hantera den vilseledande användningen av AI i val. Det föreslår implementering av teknologier för att mildra risker, bedöma AI-modeller och främja motståndskraft över branscher.
4. På vilket sätt kan mellanhänder hållas ansvariga för AI-assisterad desinformation?
Enligt Informationsteknik(Intermediary Guidelines and Digital Media Ethics Code) Regler, 2021, kan mellanhänder mötas av åtal om de inte lyckas bekämpa spridningen av AI-assisterad desinformation på sina plattformar.
5. Vilka utmaningar finns det att ta itu med AI-hot?
En av de viktigaste utmaningarna är bristen på en klar definition för mellanhänder och plattformar, vilket leder till svårigheter att fastställa ansvar och ansvar för AI-hoten.
Samarbetet mellan den indiska regeringen och stora teknologiföretag för att adressera AI-genererad desinformation återspeglar den ökande oron för denna fråga i den digitala sfären. Dessa företag, inklusive Google och Meta, har redan publicerat riktlinjer för hantering av AI-förändrat innehåll och reklam på sina plattformar som ChatGPT, Facebook, Google Sök, Instagram, WhatsApp och YouTube. Riktlinjerna betonar märkningen av AI-genererat innehåll och begränsar AIs användning i sökresultat relaterade till politiska figurer, partier och åsikter om de kommande allmänna valen 2024. Detta proaktiva tillvägagångssätt indikerar erkännandet av den potentiella påverkan av AI på den offentliga diskursen.
Adobe, skaparen av Photoshop, har också tagit ett försiktigt tillvägagångssätt till sin generativa produkt kallad Firefly. Företaget är engagerat i att förhindra manipulation eller skapande av bilder för politiska kampanjer. Detta visar branschens medvetenhet om de etiska frågor som omger AIs användning för att producera vilseledande eller falskt innehåll.
Diskussioner hölls också om ansvarigheten för mellanhänder, med undantag för Adobe, enligt Informationsteknik(Intermediary Guidelines and Digital Media Ethics Code) Regler, 2021. Om dessa mellanhänder misslyckas med att hindra spridningen av AI-assisterad desinformation, kan de möta åtal. Denna oro kommer från den omfattande spridningen av AI i onlineinnehåll. För att åtgärda detta antar teknikföretag tekniker som vattenstämpel och metadata-märkning för att identifiera och hantera AI-genererat innehåll.
Den indiska regeringens förmåga att förespråka för censur av specifika nyckelord är ett betydande steg mot förståelse av AIs påverkan på den offentliga diskursen. Regeringar världen över inser att det inte finns någon enskild lösning för att bekämpa desinformation, särskilt med AI:s inflytande. Denna ökande medvetenhet kan guida regeringsbeslut att vara vaksam mot AI-driven desinformation i demokratiska samhällen som Indien.
För att ytterligare ta itu med frågan, bevittnade den Münchenska säkerhetskonferensen underteckningen av ’Tech Accord för att bekämpa vilseledande användning av AI i 2024 års val’. Detta avtal innefattade 20 företag, inklusive Adobe, Google, Meta, Microsoft, OpenAI och X (tidigare Twitter). Tech Accord föreslog olika åtgärder, såsom att implementera teknologi för att mildra AI-relaterade risker, bedöma AI-modeller och stärka motståndskraften över branscher.
Specifika strategier för att hantera valrelaterade frågor beskrevs i efterföljande offentliggöranden från Google och Meta. Google lovade att redovisa användningen av AI i politiska annonser, märka AI-genererat innehåll på YouTube och implementera restriktioner för valrelaterade sökningar på Gemini, dess generativa AI-plattform. Meta å andra sidan tillkännagav driften av 12 faktakontroll-team för oberoende verifiering av AI-genererat innehåll. Ändrat politiskt innehåll ansågs begränsat på Metas plattformar för att minimera dess spridning.
Trots önskemål om ytterligare information svarade varken Google eller Meta på Mints förfrågningar om deras möten med regeringsföreträdare och ministrar.
Rättsliga och policyexperter har påpekat att befintliga klausuler i IT-reglerna 2021 och den indiska strafflagen kan hålla både stora teknikföretag och användare ansvariga för att främja AI-driven desinformation. Underlåtenhet att proaktivt bekämpa sådant innehåll på deras plattformar kan leda till ansvar under regel 7 i IT-reglerna 2021. Bristen på en tydlig definition för plattformar och mellanhänder utgör en utmaning för att effektivt tackla AI-hot och fastställa ansvar och ansvar.
The source of the article is from the blog myshopsguide.com