Umelá inteligencia (AI) sa stala neustále prítomnou silou v našich životoch, transformujúc rôzne odvetvia a revolucionizujúc spôsob, akým interagujeme s technológiou. Avšak spolu s jej neuveriteľnými pokrokmi prichádza aj znepokojujúca otázka – nárast deepfakes.
Deepfakes označujú manipulované médiá, vrátane videí, zvukov a obrázkov, vytvorené alebo zmenené pomocou AI technológie s cieľom klamať divákov. Tieto klamlivé médiá môžu byť využívané rôzne účely, od šírenia dezinformácií po zákerne ovplyvňovanie verejnej mienky. Na riziká spojené s deepfakes reaguje gigant sociálnych médií Meta, kedysi známy ako Facebook a Instagram, oznámil, že od mája začne označovať médiá generované AI.
Tento krok prichádza v čase, keď Meta usiluje uistiť svojich používateľov a vlády o potenciálnych nebezpečenstvách deepfakes. Namiesto odstránenia manipulovaných obrázkov a audia, ktoré neporušujú jeho pravidlá, sa Meta rozhodla označiť ich a poskytnúť kontext. Tento prístup si kladie za cieľ dosiahnuť rovnováhu medzi ochranou slobody prejavu a riešením rástuceho obáv okolo manipulovaných médií.
Podľa nového označovacieho systému Meta bude obsah identifikovaný ako „Vytvorené s použitím AI“ jasne označený, aby používatelia mohli rozpoznať médiá, ktoré boli generované alebo zmenené s využitím umelej inteligencie. Navyše obsah, ktorý je považovaný za vysoko rizikový pre klamanie verejnosti, dostane výraznejšie označenie.
Poskytovaním transparentnosti a ďalšieho kontextu Meta dúfa, že efektívnejšie rieši problém deepfakes. Podľa Moniky Bickert, podpredsedníčky obsahovej politiky Meta, nové označovacie techniky presahujú manipulovaný obsah odporúčaný dozornou radou Meta. Tento krok zodpovedá dohode uzavretej medzi hlavnými tech firmami a hráčmi AI na spolupráci pri boji proti manipulovaným médiám.
Avšak odborníci varujú, že aj keď identifikácia AI obsahu je krok správnym smerom, stále môžu existovať medzery. Nicolas Gaudemet, riaditeľ AI v spoločnosti Onepoint, zdôrazňuje, že open-source softvér napríklad nemusí vždy využívať techniku vodoznaku, ktorú prijali väčší hráči AI. Táto diskrepancia môže potenciálne oslabiť účinnosť označovacieho systému.
Rozloženie označovacieho systému Meta bude prebiehať vo dvoch fázach, začínajúc označovaním AI-generovaného obsahu v máji 2024. Od júla prestanú odstraňovať manipulované médiá len na základe starých pravidiel. Podľa novej normy AI-generovaný obsah zostane na platforme, pokiaľ neporuší iné pravidlá, ako napríklad pravidlá o nenávistnom prejave alebo ovplyvňovaní volieb.
Potreba transparentnosti a zodpovednosti v súvislosti s AI-generovanými médiálmi stále viac narastá. Nedávne príklady presvedčivých deepfakes vyvolali obavy o potenciálnom zneužití AI technológií na účely dezinformácií. Odpoveď Meta na tieto obavy preukazuje záväzok riešiť problém a zároveň zachovať rovnováhu medzi slobodou prejavu a ochranou používateľov.
Keďže sa AI neustále rozvíja, je kľúčové, aby sa spoločnosť prispôsobila a vyvinula stratégie, ktoré ochránia pred zneužitím tejto mocnej technológie. Transparentnosť, spolupráca medzi hráčmi odvetvia a zapojenie dozorných organizácií budú zásadné pre zachovanie integrity a dôveryhodnosti našich digitálnych prostredí.
The source of the article is from the blog revistatenerife.com