Den infiltration av artificiell intelligens (AI) i medieskapande har fört med sig en era där syntetiska bilder och videos blir allt vanligare. I takt med att AI-tekniken utvecklas växer oron hos användare av sociala medier för den ström av fabricerade nyheter som genereras med denna teknik. Dessa farhågor är inte obefogade, eftersom fejkade innehåll kan vara extremt vilseledande och skadligt.
Stor vikt har lagts vid att identifiera och begränsa spridningen av sådant falskt innehåll. Ett tillvägagångssätt inkluderar massivt innehållsanalys på sociala medieplattformar, såsom granskning av bilder, videos och annat multimedia innehåll. Michael Bronstein, en framstående professor vid både universitetet i Lugano i Schweiz och Imperial College i Storbritannien, nämnde ett projekt kallat GoodNews som syftar till att använda AI för att upptäcka fejkade nyheter. Dock möter detta system utmaningar, som när det stöter på krypterade plattformar som WhatsApp där innehållet förblir otillgängligt på grund av integritetsprotokoll, vilket gör upptäckten av desinformation särskilt svår.
I ansträngningarna att hjälpa användare skilja på verkliga nyheter och fejkade sådana har stora företag som Meta och Alphabet vidtagit åtgärder för att automatiskt flagga falskt innehåll på sina plattformar. På liknande sätt används AI-baserade verktyg som ChatGPT för att assistera i denna verifieringsprocess. Teknologier som utvecklats för att hantera detta problem inkluderar även applikationer som AI or not och plattformar som human ai, vilka hjälper användare att skilja på autenticiteten hos onlineinnehåll.
Ytterligare hjälp ges av applikationen FakerFact, som använder algoritmer för att upptäcka om en artikel är faktabaserad eller avsedd att framkalla emotionella reaktioner. Dessutom samlar applikationen användarfeedback om uppfattad autenticitet hos artiklarna, vilket möjliggör ett community-drivet tillvägagångssätt för att identifiera vilseledande information.
Fördelar med att bekämpa fejkade nyheter med AI:
– Skalbarhet: AI-system kan analysera stora mängder data snabbt, vilket är avgörande med tanke på den enorma mängd innehåll som genereras online varje dag.
– Konsistens: AI kan tillämpa samma standarder över allt analyserat innehåll, vilket minskar risken för partiskhet och inkonsekvenser som kan uppstå med mänskliga moderatorer.
– Hastighet: AI kan snabbt flagga potentiellt fejkade nyheter i realtid, vilket hjälper till att förhindra spridningen av desinformation innan den blir viral.
– Inlärningsförmåga: Med tiden kan AI lära sig och anpassa sig till nya taktiker som används av spridare av fejkade nyheter, vilket gör att systemet hela tiden ligger steget före de illasinnade aktörer som ständigt förfinar sina metoder.
Nackdelar med att bekämpa fejkade nyheter med AI:
– Bristande förståelse för sammanhang: AI kan ha svårt att förstå sammanhang och nyanser, vilket kan leda till felaktiga positiva utfall där legitimt innehåll flaggas felaktigt, eller felaktiga negativa utfall där sofistikerade fejkade nyheter upptäcks inte.
– Anpassning av skräppostare: När AI:s upptäckningsmetoder förbättras, gör även de som skapar fejkade nyheter det, vilket leder till ett kapplöpning mellan upptäckningssystem och desinformationsgenererare.
– Frågor kring dataskydd: Behovet av att AI-system får tillgång till innehåll för att analysera det kan leda till oro för användares integritet och dataskydd.
– Beroende av data: AI-system kräver stora och varierande dataset för att lära sig effektivt, och bias i dessa dataset kan leda till partiskheter i AI-bedömningar.
Viktiga frågor och svar:
– Hur upptäcker AI fejkade nyheter? AI-algoritmer analyserar vanligtvis mönster inom innehållet som är karakteristiska för fejkade nyheter, såsom sensationsbetonat språk, inkonsekvent information när det korsrefereras med betrodda källor, samt bildigenkänning för att identifiera manipulerade bilder eller deepfakes.
– Kan AI helt eliminera fejkade nyheter? Nej, AI är ett verktyg för att assistera i upptäckten av fejkade nyheter men är inte felfritt. Det fungerar bäst i kombination med mänsklig bedömning, särskilt för komplexa uppgifter som att förstå nyanserna av desinformation.
Viktiga utmaningar och kontroverser:
– Det pågår en debatt om balansen mellan censur och yttrandefrihet. Automatisk flaggning av innehåll som fejkade nyheter av AI kan undertrycka legitimt tal om inte noggrant övervakas.
– Öppenhet kring hur AI-modeller fattar beslut är en betydande utmaning. Kritiker menar att utan förståelse för varför specifikt innehåll flaggas kan det vara svårt att lita på systemet.
– Risken för att AI-system kan användas för att trycka ned vissa synpunkter eller rikta in sig på politiska motståndare är en oro.
För trovärdiga resurser om den bredare ämnet AI och missinformation, överväg att besöka organisationernas och initiativens webbplatser som är i framkant när det gäller att hantera dessa utmaningar:
– AI Global
– Partnership on AI
– DeepMind
– OpenAI
Observera att dessa länkar har tillhandahållits för att peka mot organisationer kända för sitt arbete inom AI, som kan täcka ämnen som att bekämpa fejkade nyheter som en del av deras bredare agenda.
The source of the article is from the blog mgz.com.tw