Ekonomiska forumets larm om AI-genererad desinformation
I januari identifierade globala ledare desinformation, särskilt den som genereras av artificiell intelligens (AI), som världens näst största risk, endast överträffad av extrema väderförhållanden. Experter föreslår att desinformation kraftigt underminerar demokratin och förespråkar kritisk medieutbildning för att stärka allmänheten.
Det internationella mötet om medieutbildning betonade den brådskande nödvändigheten av gemensamma insatser från regeringar, privata sektorn och samhället för att motverka desinformation. Mötet, som hölls i Rio de Janeiro, samlade en mångfald av deltagare, inklusive offentliga tjänstemän, medlemmar i sociala organisationer, journalister och pedagoger.
Rebeca Otero från Unescos utbildningssektor i Brasilien betonade nödvändigheten av att prioritera medieutbildning och likställde prioritering med tillräcklig finansiering för att täcka de nationella utbildningsbehoven.
På konferensen illustrerade Adeline Hulin, chef för Unescos avdelning för medie- och informationskompetens samt digitala färdigheter, hur AI-genererat innehåll kan sprida fördomar genom att använda forskning från London School of Economics som involverar AI-genererade CV:n för hypotetiska manliga och kvinnliga chefer med olika uppfattade egenskaper.
Medieutbildning ses som nyckel till demokratin
Mötet betonade också att medieutbildning, viktig för att odla diskriminerande medborgare, har blivit en strategisk faktor i Brasiliens obligatoriska utbildningsriktlinjer. Trots att det inte explicit nämndes, faller mediekunnighet inom de kompetenser som kräver att eleverna engagerar sig med digital teknik på ett genomtänkt och etiskt sätt.
Rossieli Soares, utbildningssekreterare i Pará, underströk de tidigare utmaningarna med mediekunnighet, såsom grundläggande barnalfabetisering, och föreslog att utan en läskultur kan mediekunnighet inte blomstra.
Andra diskussioner pekade på nödvändigheten av att integrera teknologi i läroplanerna samtidigt som man är vaksam på för lång exponering för skärmar, enligt Unescos Globala utbildningsövervakningsrapport för 2023. Kommunen Rio de Janeiro har vidtagit praktiska åtgärder för att begränsa överdriven mobilanvändning i klassrummen, med en ny policy som reglerar användningen strikt för pedagogiska ändamål godkänd av lärare.
Vid mötets avslutning förespråkade Rios utbildningssekreterare Renan Ferreirinha för policyer som främjar mänsklig interaktion framför isolering i digitala bubblor och lyfte fram bekymmer över skadliga effekter på barns mental hälsa till följd av skärmberoende.
Viktiga frågor och svar:
F: Varför anses AI-genererad desinformation vara en betydande risk?
S: AI-genererad desinformation anses vara en betydande risk eftersom den kan produceras snabbt och i stor skala, vilket potentiellt kan påverka allmänhetens åsikter, sprida falska narrativ och påverka demokratiska processer. AI:s sofistikering kan göra det utmanande att skilja mellan autentiskt och fabrikerat innehåll.
F: Vilka är de föreslagna lösningarna för att bekämpa desinformation?
S: En av de huvudsakliga lösningarna är att stärka medieutbildningen så att allmänheten kan bedöma informationen de tar emot på ett kritiskt sätt. Andra åtgärder inkluderar samarbetsinsatser från regeringar, privat sektor och civilsamhället för att skapa strategier för att bekämpa desinformation och reglera AI-genererat innehåll.
Viktiga utmaningar och kontroverser:
Utmaningarna med att bekämpa desinformation inkluderar att säkerställa yttrandefrihet samtidigt som man förhindrar spridning av falsk information, samt att adressera de djupt rotade fördomarna som AI kan upprätthålla om inte övervakas och regleras på rätt sätt. Det finns också en kontrovers över vem som ska vara ansvarig för att styra den digitala rymden och i vilken utsträckning regleringar bör genomföras.
Fördelar och nackdelar:
Fördelar med att adressera problemet med AI-genererad desinformation inkluderar bevarandet av en informerad demokrati, upprätthållande av socialt förtroende och förebyggande av potentiella skador i verkliga livet som påverkas av falsk information.
Nackdelar inkluderar potentialen för överreglering, vilket skulle kunna begränsa yttrandefriheten och kväva teknologisk innovation. Att utforma policys som filtrerar bort desinformation utan att hindra fördelarna med AI är en komplex uppgift.
När det gäller relaterade länkar kan det finnas länkar till officiella webbplatser för organisationer som UNESCO eller andra enheter dedikerade till mediekunnighet och digital färdighetsträning. Dock kan inga länkar föreslås utan specifika webbadresser. Det är alltid bäst att besöka sådana organisationers officiella domäner som UNESCO för uppdaterad information relaterad till ämnet.