Meta Platforms, het moederbedrijf van Facebook en Instagram, heeft plannen aangekondigd om afbeeldingen die gegenereerd zijn door kunstmatige intelligentie (AI) van andere bedrijven op te sporen en te labelen. Het bedrijf wil onzichtbare markers gebruiken die zijn verwerkt in de afbeeldingsbestanden om onderscheid te maken tussen echte foto’s en digitaal gecreëerde inhoud. Dit labelsysteem zal worden toegepast op alle inhoud die deze markers draagt en gedeeld wordt op de platforms van Meta.
Met de introductie van dit labelsysteem wil het bedrijf het wijdverspreide probleem van misleidende en valse inhoud, geproduceerd door generatieve AI-technologieën, aanpakken. Deze technologieën hebben het vermogen om realistisch ogende afbeeldingen te creëren als reactie op eenvoudige instructies, wat zorgen oproept over de mogelijke schadelijke gevolgen van misbruik. Het labelinitiatief van Meta maakt deel uit van een bredere beweging binnen de technologie-industrie om standaarden vast te stellen en de negatieve impact van generatieve AI te beperken.
Nick Clegg, de president van mondiale zaken bij Meta, toonde vertrouwen in het vermogen van het bedrijf om AI-gegenereerde afbeeldingen betrouwbaar te labelen. Hij erkende echter de complexiteit van het ontwikkelen van vergelijkbare tools voor audio- en videomateriaal. Hoewel de technologie voor het markeren van audio en video nog niet volledig volwassen is, is het de bedoeling dat Meta individuen verplicht om hun eigen bewerkte audio- en videomateriaal te labelen, met straffen voor niet-naleving.
Het is vermeldenswaard dat het labelsysteem van Meta op dit moment niet van toepassing is op tekst die gegenereerd is door AI-tools zoals ChatGPT. Clegg verklaarde dat er momenteel geen bruikbaar mechanisme is voor het labelen van dergelijke inhoud. Bovendien is het onduidelijk of Meta labels zal toepassen op generatieve AI-inhoud die gedeeld wordt op haar versleutelde berichtendienst, WhatsApp.
De recente aandacht die Meta’s beleid voor misleidend gemanipuleerde video’s kreeg van haar onafhankelijke toezichtsraad bracht Clegg ertoe te erkennen dat er behoefte is aan verbeterde maatregelen. De raad beval aan om dergelijke inhoud te labelen in plaats van te verwijderen. Clegg was het eens met de beoordeling van de raad en verklaarde dat Meta’s bestaande beleid niet langer geschikt is gezien de toenemende aanwezigheid van synthetische en hybride inhoud. Door een samenwerking voor het labelen aan te gaan met andere technologiebedrijven wil Meta haar inzet tonen om aan deze zorgen tegemoet te komen.
Al met al markeert de beslissing van Meta Platforms om AI-gegenereerde afbeeldingen te labelen een belangrijke stap in de strijd tegen misinformatie en het vergroten van transparantie op haar platforms. Terwijl de technologie-industrie worstelt met de uitdagingen die generatieve AI-technologieën met zich meebrengen, worden samenwerkingsinspanningen zoals dit labelinitiatief cruciaal om verantwoord gebruik van AI vorm te geven.
Veelgestelde vragen:
The source of the article is from the blog rugbynews.at