Umělá inteligencia (AI) zaznamenala revolučné zmeny v mnohých odvetviach a teraz sa zdá, že AI-generované obrázky zanechávajú svoju stopu na sociálnych mediálnych platformách. Nedávna štúdia uskutočnená výskumníkmi zo Stanfordu odhalila znepokojujúcu tendenciu syntetických obrázkov zaplavujúcich sociálne platformy bez jasného označenia, čo robí ťažkým pre používateľov rozlišovať medzi reálnym a AI-generovaným obsahom.
Zatiaľ čo spoločnosti ako Meta majú politiky, ktoré vyžadujú označiť AI-generovaný obsah, väčšina týchto syntetických obrázkov neoznačuje svoj pôvod, čo vystavuje používateľov zavádzajúcim informáciám a priamočiarej dezinformácii. S rozšírením technológie generatívnej AI sa objavili obavy o dôsledky nekontrolovaných AI obrázkov na sociálnych médiách.
Nedostatok systematického označovania zaznamenal významný dopad, najmä na starších používateľov, ktorí s technológiou AI nemusia byť takí oboznámení. Komentáre pod týmito príspevkami naznačujú, že niektorí používatelia podliehajú zavádzajúcemu obsahu, čo zdôrazňuje potrebu jasnejšieho označenia AI-generovaných obrázkov.
Jedným znepokojujúcim zistením zo štúdie Stanfordu je, že tieto AI-generované obrázky sú často zverejňované zo stránok na Facebooku, ktoré boli ukradnuté od iných jednotlivcov alebo organizácií. Napríklad stránka s názvom „Davie High School War Eagle Bands“ bola získaná od hudobnej skupiny strednej školy v Severnej Karolíne a články boli nahradené obrázkami Ježiša a letušiek generovanými AI. Pôvodní majitelia sa snažia získať kontrolu a oznámiť stránku na Facebooku, ktorý je nečinný.
Motivácie za týmito AI spamovými stránkami nie sú vždy jasné, ale objavili sa špekulácie, že by mohli nalákať dôverčivých používateľov na potenciálne podvody. Senzačný charakter AI-generovaných obrázkov pritahuje angažovanosť, čím sa stávajú príťažlivými cieľmi pre spam a podvodníkov. Tieto stránky často využívajú neautentických nasledovníkov na vytvorenie ilúzie legitímnosti a interakciu s reálnymi komentátormi. Niektoré z týchto podvodných účtov môžu pokúšať žiadať osobné informácie alebo predávať falošné produkty nevedomým používateľom.
NBC News uskutočnil vyhľadávanie a zistil viacero odpovedí od účtov, ktoré žiadali priateľstvo s komentátormi, pri čom používali podobný scenár. Tieto účty často nemajú žiadne osobné informácie a prejavujú podozrivé správanie. Často zanechávajú komentáre chváliace AI-generované obrázky a žiadajú priateľstvo. Používatelia sa uvedomujú tieto stránky a začali zanechávať vlastné komentáre na varovanie iných pred možnými podvodmi.
Voľnočasové aktivity na AI-generovaných obrázkoch na sociálnych médiách sú príčinou obáv. Ukazujú potrebu vyššieho označovania a lepšieho detekčného metód na boj proti šíreniu dezinformácií. Používatelia musia zostať ostražití a opatrní pri interakcii s obsahom, ktorý sa môže javiť podozrivo alebo príliš dobrý na to, aby bol pravdivý.
The source of the article is from the blog windowsvistamagazine.es