Dirbtinis intelektas (AI) yra revoliucijonizavęs įvairias pramonės šakas, ir dabar atrodo, kad AI sukurti paveikslai daro įtaką socialiniams tinklams. Neseniai Stanfordo tyrėjų atliktas tyrimas atskleidė susirūpinimą keliantį sintetinių vaizdų plitimą socialiniuose tinkluose be aiškios žymėjimo, dėl ko vartotojai turi sunkumų atskirti tarp tikrųjų ir AI sukurtų turinio.
Nors įmonės, pvz., Meta, turi politiką, reikalaujančią vartotojams žymėti AI sukurtą turinį, dauguma šių dirbtinių vaizdų neparodo savo kilmės, paliekant vartotojus pažeidžiamus klaidinančios informacijos ir tiesioginės dezinformacijos atžvilgiu. Su generatyvios AI technologijos plitimu kyla susirūpinimas dėl nepatikrintų AI vaizdų poveikio socialiniuose tinkluose.
Sisteminio žymėjimo stoka turėjo didelę įtaką, ypač vyresniems vartotojams, kurie gali būti mažiau susipažinę su AI technologija. Komentarai po šiomis įrašais rodo, kad kai kurie vartotojai patiki suklastotam turiniui, pabrėžiant poreikį aiškesnei AI sukurtų vaizdų identifikacijai.
Vienas nerimą keliantis Stanfordo tyrimo išvadas yra tai, kad šie AI sukurti vaizdai dažnai yra pateikiami iš Facebook puslapių, kurie buvo pavogti iš kitų asmenų ar organizacijų. Pavyzdžiui, puslapis pavadinimu „Davie High School War Eagle Bands” buvo užgrobstas iš Šiaurės Karolinos aukštosios mokyklos orkestro ir perdirbtas su AI paveikslais, rodančiais Jėzų ir skrybėlės šauktukus. Originalūs savininkai susiduria su sunkumais atgauti puslapio kontrolę ir paskelbti pranešimą „Facebook“, kuris yra abejingas.
Motyvai, kurie stovi už šių AI šlamšto puslapių, nėra visada aiškūs, tačiau yra įtarimų, kad jie gali klaidinti naivius vartotojus dėl galimų sukčiavimų. AI sukurtų vaizdų jaudinanti prigimtis traukia dėmesį, todėl jie tampa pagrindiniais išpuolių ir sukčių veikėjų taikiniais. Šie puslapiai dažnai naudoja neautentiškus sekėjus, kad sukurtų įtvirtinimo iliuziją ir sąveikautų su tikrais komentatoriais. Kai kurie šitie sukčiavimo paskyros gali bandyti išgauti asmeninę informaciją ar parduoti klastotas prekes nieko neįtariantiems vartotojams.
NBC News atliko paiešką ir rado kelis atsakymus iš paskyrų, prašančių susipažinti su komentatoriais, naudodamos tą patį scenarijų. Šios paskyros dažnai neturi asmeninės informacijos ir demonstruoja įtarų elgesį. Jos linkusios palikti komentarus giriančius AI sukurtus vaizdus ir paprašyti draugystės. Vartotojai tapo budrūs dėl šių puslapių ir pradėjo palikti savo komentarus, kad įspėtų kitus dėl galimų sukčiavimo atvejų.
AI sukurtų vaizdų paplitimas socialiniuose tinkluose kelia nerimą. Tai pabrėžia poreikį aiškesniam žymėjimui ir patobulintoms aptikimo metodikoms kovoti su dezinformacijos plitimu. Vartotojams būtina išlikti budriems ir atsargiems, kai bendrauja su turiniu, kuris atrodo įtartinas arba per gerai, kad būtų tiesa.
DUK
Kas yra AI sukurti vaizdai?
AI sukurti vaizdai yra vizualiniai kūriniai, sukurti naudojant dirbtinės intelektos technologiją. Šie vaizdai yra sukurti algoritmais, apmokytais generuoti originalų turinį pagal pateiktus modelius ir pavyzdžius.
Kodėl svarbu žymėti AI sukurtą turinį?
AI sukurtų turinių žymėjimas yra esminis, siekiant išlaikyti skaidrumą ir informuoti vartotojus apie vaizdų kilmę, su kuria jie susiduria. Be tinkamo žymėjimo vartotojai gali būti klaidinami ar tapti dezinformacijos aukomis.
Kaip vartotojai gali atpažinti AI sukurtus vaizdus?
Nors gali būti iššūkis atskirti tikrus ir AI sukurtus vaizdus, tam tikri požymiai gali suteikti ženklų. Vartotojai turėtų ieškoti nesuderinamumų, neįprastų detalių ar modelių, kurie rodo, kad vaizdas gali būti sukurtas naudojant AI. Vis dėlto žymėjimas ir aiškesnis identifikavimas yra būtini, kad ši diferenciacija būtų lengvesnė vartotojams.
Kokių žingsnių socialiniai tinklai gali imtis, siekdami spręsti šią problemą?
Socialiniai tinklai turėtų taikyti politikas, kurios reikalautų vartotojų žymėti AI sukurtą turinį. Be to, investavimas į automatizuotas aptikimo sistemas gali padėti nustatyti ir pažymėti potencialiai klaidinančius ar sintetinius vaizdus. Tinklai taip pat turėtų pagerinti reagavimą į pavogtas paskyras ir nedelsiant imtis veiksmų, kad atgautų kontrolę.
Šaltiniai:
– Stanfordo universiteto tyrimas: [URL]
– Meta politika: [URL]
The source of the article is from the blog radiohotmusic.it