Innovativ rapporteringsplattform hjälper till att bekämpa olagligt internetinnehåll
År 2023 tog SafeInternet.hu hotline, som drivs av Child Rescue Service, emot en ström av över 4400 rapporter angående skadligt och olagligt innehåll som upptäcktes online. En rigorös analys utförd av deras team avslöjade 715 fall av bekräftat olagligt innehåll, varav en häpnadsväckande 77% skildrade sexuellt övergrepp mot barn. En märkbar ökning av AI-genererat innehåll har observerats, vilket framhäver nya utmaningar för internetsäkerhet.
Koordinerade ansträngningar för att ta bort olagligt material
Sedan 2019 har Child Rescue Service noggrant hanterat SafeInternet.hu hotline, en del av det ungerska Safer Internet Center. Deras uppdrag är snabb utrotning av olagligt material från internet. För att uppnå detta samarbetar hotlinen nära med ungerska myndigheter, innehållsleverantörer och sociala medieplattformar – såsom Google, Discord, TikTok – samt med INHOPE, ett internationellt nätverk.
Hotlinen dirigerar innehåll som skildrar sexuella övergrepp mot barn som är värdar utomlands till det ansvariga landet via INHOPE:s plattform ”ICCAM”. Samtidigt skickas fall av upphovsrättsintrång till National Tax and Customs Administrations Kriminaldirektorat.
Hur man rapporterar och vad som händer sedan?
Rapportering sker uteslutande via ett formulär på SafeInternet.hu:s webbplats, som tillåter anonymitet eller inskickande av kontaktinformation. Rapporterna granskas enligt nationella lagar. Hotlinen informerar relevanta myndigheter i överträdelsefall, särskilt när ungersk jurisdiktion är tillämplig.
Ökning av näthat och utmaningar med AI
Hotlinen registrerade 214 förfrågningar om feedback från rapportörer förra året, vilket visar på en växande allmän tillit. Dessutom noterades en märkbar ökning av rapporter relaterade till AI-genererade bilder. Sådant innehåll sträckte sig från manipulerade oskyldiga bilder på barn till helt artificiella skildringar av barnexploatering.
Nätbaserad försåtlig förberedelse och phishinghot
Självproducerat innehåll, ofta som ett resultat av nätbaserad försåtlig förberedelse, svarade för nästan 9% av förra årets rapporter, där offerställena barn skickade bilder från det förmodat säkra i sina hem. Phishing fick också ökad uppmärksamhet med 77 fall där ungerska användares kreditkortsuppgifter stals genom bedrägliga webbutiker som efterliknade populära varumärken. Hotlinens insatser underlättade tidig borttagning av sådana webbplatser, vilket förhindrade ytterligare offerställen.
Viktiga frågor och svar
– Vilka roller har hotlines som SafeInternet.hu när det gäller barnskydd?
Hotlines som SafeInternet.hu utgör en avgörande kanal för allmänheten att rapportera skadligt och olagligt innehåll de stöter på online. De utför analys och samarbetar med lokala och internationella polismyndigheter och organisationer för att ta bort olagligt innehåll, särskilt barnsexuellt exploateringsmaterial.
– På vilket sätt har uppkomsten av AI-genererat innehåll påverkat uppgiften att identifiera olagligt innehåll?
Uppkomsten av AI-genererat innehåll utgör en ny utmaning för onlineskydd av barn, då denna teknik kan skapa realistiska bilder som kan sudda ut gränserna mellan vad som är verkligt och vad som är artificiellt. Detta komplicerar processen för innehållsverifiering och kräver sofistikerade verktyg och metoder för att identifiera och särskilja olagligt AI-genererat material.
– Vilken effekt har SafeInternet.hu hotline när det gäller phishing och nätbaserad förberedelse?
Hotlinen bidrar till att mildra riskerna med phishing och nätbaserad förberedelse genom att möjliggöra snabb borttagning av innehåll och bedrägliga webbplatser. Genom att tillhandahålla en plattform för rapportering bidrar den till att öka medvetenheten och minska ytterligare offerställen för både barn och vuxna.
Viktiga utmaningar och kontroverser
En huvudsaklig utmaning inom skyddet av barn online är att hålla jämna steg med den konstant utvecklande digitala miljön, som inte bara inkluderar en ökning av AI-genererat innehåll utan även användningen av kryptering och sekretessverktyg av förövare för att undvika upptäckt. Det råder även en kontroversiell balansgång mellan att skydda barn mot exploatering och att bevara individuell integritet och frihet på internet.
Fördelar och nackdelar
Fördelar med barnskyddshotlines inkluderar:
– Erbjudande om ett snabbt svar på rapporter om olagligt innehåll.
– Underlättande av borttagning av skadligt innehåll för att förhindra ytterligare missbruk.
– Internationellt samarbete via nätverk som INHOPE för att hantera innehåll som är värd i olika jurisdiktioner.
Nackdelar kan inkludera:
– Potentiell överanvändning av offentlig rapportering, vilket möjligen missar innehåll som inte rapporteras av användare.
– Intrång i integritet om det inte hanteras noggrant, särskilt gällande statlig tillgång till onlinekommunikation.
– Behov av konstant uppdatering och förbättring av deras teknologier för att hänga med i hur olagligt innehåll kan delas eller döljas.
För mer information om internetsäkerhet för barn och de stödnätverk som finns tillgängliga, besök följande länkar:
– INHOPE
– Safer Internet Centre Network
Dessa länkar ger tillgång till organisationer dedikerade till barns säkerhet och skydd online, samt strukturerat samarbete mellan olika enheter som arbetar mot detta gemensamma mål.
The source of the article is from the blog elektrischnederland.nl