Ako sa blížia kľúčové voľby roku 2024, umelá inteligencia predstavuje sofistikovanú výzvu tým, že produkuje čoraz realistickejšie obrazy, ktoré by mohli byť použité na šírenie dezinformácií. Vlády a technologické spoločnosti sú v pohotovosti, keď sa blížia hlavné voľby po celom svete, vrátane hlasovania do Európskeho parlamentu v júni, štátnych volieb napríklad v Sasku a Brandenbursku, a veľmi očakávaných prezidentských volieb v USA v novembri, na ktorých by sa mohli opäť stretnúť Donald Trump a Joe Biden.
Zručnosť umelej inteligencie pri vytváraní obrazov a deepfakeov vyvoláva obavy u pozorovateľov volieb. Zatiaľ čo technologické giganty sľúbili bojovať proti hrozbám vyplývajúcim z týchto nástrojov, nedávne testy ukázali, že populárne platformy generovania obrazov pomocou umelej inteligencie ako Midjourney, DreamStudio od Stability AI, ChatGPT Plus od OpenAI a Image Creator od Microsoftu sú stále náchylné na produkovanie zavádzajúcich vizuálov, keď sú vybádané určitými príkazmi.
Štúdia z Univerzity v Waterlo přinesla znepokojujúce zistenia: iba 61% účastníkov dokázalo rozlíšiť medzi obrazmi ľudí vytvorenými umelou inteligenciou a skutočnými fotkami, čo je výrazne pod očakávanou mierou detekcie 85% zo strany výskumníkov. Identifikácia týchto falsifikátov je kľúčová, pretože ľudia majú tendenciu preceňovať svoju schopnosť spozorovať rozdiely.
Aby sme verejnosť vybavili väčšími rozoznávacími schopnosťami, tu je niekoľko tipov: hľadajte asymetrie alebo neobvyklé vzory v očiach, ušiach, vlasoch a iných tvárnych črtách, skontrolujte nepravidelné oblečenie alebo doplnky a upriamte pozornosť na pozadie. Experti odporúčajú priblížiť si obrázky, aby ste videli rozhádzané pixely alebo rozmazané prvky. Na internete sú tiež k dispozícii nástroje na autentifikáciu, ako sú „AI or Not“ a Hive Moderation, a tiež FakeCatcher od Intelu, ktorý sa môže pochváliť presnosťou 96% pri detekcii deepfakeov.
Keď sa mieri medzi reálnymi a počítačom generovanými obrázkami zrýchľuje, skepsa aj bdelosť sú nevyhnutnými nástrojmi pre každého občana počas týchto volieb.
Aktuálne trhové trendy:
Trh s obrazovými a deepfake technológiami rýchlo rastie, posilnený pokrokom v strojovom učení a zvýšenou dostupnosťou používateľsky prívetivých platforiem. Spoločnosti ako NVIDIA a Adobe investujú výrazne do programov na zlepšovanie tvorby vizuálneho obsahu. Rozšírenie deepfake technológie do odvetví ako film, reklama a sociálne médiá je tiež významné, pričom stále viac tvorcov ju využíva na legitimné umelecké a obchodné účely.
Prognózy:
Predpokladá sa, že rozšírenie AI-generovaných obrázkov bude pokračovať až do volieb v roku 2024. Očakáva sa, že nástroje na detekciu deepfakeov sa súčasne zlepšia, stane sa prístupnejšími pre širokú verejnosť. Avšak rýchlosť, akou sa deepfaky zlepšujú, môže prekonať schopnosť ich detekcie, čo vyvoláva vážne obavy o informačnú sféru počas podujatí s vysokými stávkami ako voľby.
…
The source of the article is from the blog shakirabrasil.info