Pokroky v oblasti generativní AI otevřely nové možnosti v oblasti tvůrčího vyjadřování. Každý den miliony jednotlivců využívají sílu těchto nástrojů k oživení svých nápadů. Nicméně, stejně jako s jakoukoli novou technologií, existuje potenciál pro její zneužití a zneužívání. Historie technologií nám ukázala, že nástroje vytvořené s dobrými úmysly mohou být také zbraňmi, a bohužel, stejný vzorec se opakuje i v případě AI.
Jedním alarmujícím trendem je rychlé šíření tzv. deepfakes, které využívají obsah generovaný umělou inteligencí k vytváření realistických, ale zfalšovaných audionahrávek, videí a obrázků. Zlodějové těchto deepfakes zneužívají k různým škodlivým účelům, jako je šíření dezinformací během voleb, finanční podvody, neuposlechnutelná pornografie a kyberšikana. Okamžitá akce je nezbytná k boji proti těmto novým hrozbám.
K vyřešení tohoto zásadního problému Microsoft a další hráči na trhu přistupují k celkovému přístupu zakotvenému ve šesti klíčových oblastech:
1. Silná bezpečnostní architektura: Microsoft zdůrazňuje přístup založený na bezpečnosti od úrovně AI platformy až po aplikační úroveň. To zahrnuje průběžné analýzy red teamem, preventivní klasifikátory, automatizované testování a rychlé zásahy proti zneužívajícím uživatelům. Jak se technologie vyvíjí, je nezbytná neustálá inovace pro posílení bezpečnostní architektury.
2. Trvanlivá prováděcí důvěryhodnost a vodoznaky médií: Pro boj s deepfakes investoval Microsoft do schopností důvěryhodnosti médií. Tyto kryptografické metody značkují a podepisují obsah vytvořený AI, což umožňuje uživatelům zjistit jeho původ a historii. Spolupráce s dalšími předními společnostmi přes organizace jako Project Origin a Coalition for Content Provenance and Authenticity (C2PA) dále podporují vývoj standardů pro ověřování pravosti.
3. Ochrana služeb před zneužíváním obsahu a chováním: Při dodržování svobody projevu se Microsoft zavazuje odstraňovat klamavý a zneužívající obsah hostovaný na jeho platformách, a to od sociálních sítí po herní služby.
4. Silná spolupráce: Uznávajíc účinnost kolektivních úsilí, Microsoft zdůrazňuje spolupráci s technologickým sektorem, občanskou společností a vládními orgány. Vycházejíc ze zkušeností s bojem proti násilnému extremismu a ochraně dětí se společnost snaží vytvořit bezpečnější digitální ekosystém prostřednictvím vzájemné spolupráce.
5. Modernizovaná legislativa: Adresa nových hrozeb vyžaduje vývoj relevantních právních předpisů a preventivních opatření ze strany policejních sil. Microsoft usiluje o přispívání nápadů a podporu vládních iniciativ po celém světě, které chrání jednotlivce online a zároveň zachovávají základní hodnoty, jako je svoboda projevu a osobní soukromí.
6. Veřejné povědomí a vzdělávání: Informovaná veřejnost je klíčová pro zvrat výzev, které představuje obsah generovaný AI. Iniciativy zahrnující veřejné vzdělávání a těsnou spolupráci s občanskou společností jsou důležité pro pomoci jednotlivcům rozlišovat mezi legitimním a falešným obsahem. Vodoznaková technologie může být v tomto procesu užitečná.
Ochrana společnosti v digitálním věku není jednoduchý úkol, ale je nezbytný. Společně se zavazujeme k inovaci, spolupráci a odpovědným postupům a tím zajistíme, že technologie bude pokračovat ve svém postupu chránit veřejnost. Vydejme se na tuto cestu společně a učiňme online bezpečnost kolektivním cílem do budoucna.
Často kladené otázky:
1. Co jsou deepfakes?
Deepfakes jsou obsah generovaný umělou inteligencí, včetně audionahrávek, videí a obrázků, který je vytvořen za účelem falšování a napodobování skutečných osob nebo událostí.
2. Jak jsou deepfakes zneužívány?
Deepfakes jsou zneužívány zloději pro škodlivé účely, jako je šíření dezinformací během voleb, finanční podvody, neuposlechnutelná pornografie a kyberšikana.
3. Jak Microsoft řeší problém deepfakes?
Microsoft přistupuje k tomuto problému komplexním způsobem a zaměřuje se na šest klíčových oblastí:
– Silná bezpečnostní architektura: Implementace bezpečnostních opatření na úrovni AI platformy i aplikační úrovni.
– Trvanlivá prováděcí důvěryhodnost a vodoznaky médií: Vývoj metod pro označování a podepisování obsahu generovaného umělou inteligencí pro ověřování pravosti.
– Ochrana služeb před zneužíváním obsahu a chováním: Odstranění klamavého a zneužívajícího obsahu hostovaného na Microsoft platformách.
– Silná spolupráce: Spolupráce s technologickým sektorem, občanskou společností a vládními orgány za účelem vytvoření bezpečnějšího digitálního ekosystému.
– Modernizovaná legislativa: Podpora vývoje relevantních právních předpisů a preventivních opatření ze strany policejních sil k odstranění nových hrozeb.
– Veřejné povědomí a vzdělávání: Vzdělávání veřejnosti a spolupráce s občanskou společností s cílem pomoci jednotlivcům rozlišovat mezi legitimním a falešným obsahem.
4. Jak lze zajistit ochranu společnosti v digitálním věku?
Ochrana společnosti v digitálním věku vyžaduje inovaci, spolupráci a odpovědné postupy. Společným závazkem vůči těmto principům může technologie pokročit ve své schopnosti chránit veřejnost.
The source of the article is from the blog scimag.news