Umělá inteligence (AI) udělala další krok vpřed s představením Sora, mocné nové AI nástroje vyvinuté společností OpenAI. Zatímco nástroj ještě není běžně dostupný veřejnosti, již vyvstaly obavy ohledně šíření deepfake videí a jeho potenciálních dopadů na různé průmyslové odvětví.
Sora je aplikace AI, která přeměňuje psané podněty na originální videa. Podle OpenAI má nástroj schopnost vytvářet sofistikovaná 60sekundová videa obsahující detailní scény, složité pohyby kamery a živé emoce více postav. Zatímco tato technologie má obrovský potenciál pro inovaci a kreativitu, odborníci upozorňují na její zneužití a výzvy, které představuje pro společnost.
Oren Etzioni, zakladatel TruMedia.org, vyjádřil své obavy ohledně rychlého vývoje generativních AI nástrojů a upozornil na bezpečnostní rizika, která vytvářejí v demokratických procesech. S blížícími se prezidentskými volbami v roce 2024 roste hrozba dezinformace a deepfake videí. Organizace jako TruMedia.org se věnují boji proti dezinformacím založeným na AI a zaměřují se na identifikaci manipulovaných médií.
OpenAI omezuje přístup ke Sora nástroji a umožňuje jej testovat a poskytovat zpětnou vazbu pouze „červeným týmům“, vizuálním umělcům, designérům a filmařům. Bezpečnostní experti také zhodnotí nástroj, aby porozuměli jeho potenciálu vytvářet dezinformace a urážlivý obsah.
Přestože je dostupnost omezená, odborníci věří, že není otázkou času, než se podobná technologie, ať už je to Sora nebo nástroj konkurenta, stane široce dostupnou. To vyvolává obavy o rozšíření vysokokvalitních deepfake videí a snadné možnosti, jak mohou zákeřní aktéři vytvářet urážlivý obsah.
Sora neohrožuje pouze politické kampaně a celebrity, ale také představuje hrozbu pro profesionály v odvětví tvorby obsahu. Hlasoví herci, designéři videoher, filmaři a marketéři by mohli být zasaženi, protože multimodální AI modely jako Sora nabízejí úspory nákladů a schopnost generovat obsah bez nutnosti spoléhat se na lidské herce.
Navíc by Sora dokonce mohla umožnit obyčejným občanům vyvíjet vlastní média na základě podnětů, což by vedlo k vzniku personalizovaného tvorby obsahu ve stylu „vyber si vlastní dobrodružství“. Velké hráče jako Netflix by mohli tuto technologii přijmout a umožnit koncovým uživatelům vyvíjet personalizovaný obsah.
S postupující technologií je na organizacích a institucích, aby vyvinuli vlastní nástroje založené na AI, které budou bojovat proti potenciálním nebezpečím deepfake videí. Ochrana spotřebitelů a prevence proti hrozbám se stává klíčovou, zejména pro odvětví jako bankovnictví, která spoléhají na bezpečnostní opatření založená na video autentifikaci.
Zatímco Sora nabízí zajímavé možnosti pro inovaci, také vznikají důležité etické a bezpečnostní úvahy. Při pohybu v tomto novém prostoru je klíčové stanovit řádné směrnice a regulace, které vyváží výhody AI s potenciálními riziky, které přináší.
Často kladené otázky:
1. Co je Sora?
Sora je mocný nástroj AI vyvinutý společností OpenAI, který přeměňuje psané podněty na originální videa.
2. Co může Sora dělat?
Sora má schopnost vytvářet sofistikovaná 60sekundová videa s detailními scénami, složitým pohybem kamery a živými emocemi více postav.
3. Jaké jsou obavy ohledně Sory?
Odborníci se obávají možného zneužití Sory, zejména šíření deepfake videí, a výzev, které přináší společnosti. Vyvolává obavy o rozšíření vysokokvalitních deepfake videí a snadnou možnost vytvoření urážlivého obsahu.
4. Jak se OpenAI vypořádává s riziky spojenými se Sor
The source of the article is from the blog newyorkpostgazette.com