Socialiniuose tinkluose plačiai apsiskleidė seksualiai eksplicitiški paveikslai su Taylor Swift, kurie šiais metais buvo sukurti naudojant pažangiąsias AI priemones. Šis įvykis yra tik vienas iš daugelio pavyzdžių, kai generatyvinėmis AI priemonėmis buvo pasinaudota klaidinančiais tikslais, įskaitant klastojimui skirtus viešų asmenybių paveikslus bei suklastotą turinį skleidžiant.
Jungtinės miestų socialinių tinklų platformos, tokiy kaip „Facebook“, „Instagram“, „TikTok“, „YouTube“ ir „Google Search“, tapo interneto sargo postais, formuojančias milijardų vartotojų kasdienines patirtis. Ši atsakomybė tapo dar svarbesnė generatyvinės AI amžiuje, kada bet kas gali lengvai gaminti aukštos kokybės tekstą, vaizdus ir video. Sintetinė žiniasklaida, siekdama pasiekti milijonus per valandas, remiasi šių platformų masišku pasiekimu ir tinklo efektu, kad identifikuotų pradinę auditoriją ir tada sparčiai plitimui.
Konkurencingame vartotojų dėmesio rinkoje, kur žmonės susiduria su didžiule turinio lavina, socialinių medijų platformos atlieka esminį kuratorių vaidmenį. Su generatyvinės AI plėtros augimu, galimų platformų pasirinkimų skaičius daugkartėja. Kiekvieno video ar paveikslo kūrėjai dabar agresyviai konkuruoja dėl auditorijos laiko ir dėmesio. Tačiau vartotojai neturi laiko skirti turiniui, nepaisant vis didėjančio kiekio.
Generatyvinės AI plitimas tikriausiai sukels daugiau atvejų kaip su Taylor Swift paveikslais. Tačiau tai yra tik ledkalnio viršūnė. AI priemonės padaro turinio gamybą greitesnę ir pigesnę, todėl daugumai žmonių bus dar sunkiau pasiekti matomumą internete. Žiniasklaidos organizacijos, pvz., neprodukuos begalinių naujienų netgi jei pradės naudoti AI priemones greitesnei pristatymui ir mažesnėms išlaidoms. Dėl to jų turinys užims mažesnę vartotojų dėmesio dalį. Dabartinė situacija jau rodo, kad maža dalis turinio pritraukia didžiąją dalį peržiūrų, sukurdama esminį disbalansą.
Norint išspręsti šias problemas, platformos gali turėti būti atvira žmonių kūrėjams savo sistemose. Tačiau tai sudėtinga užduotis, nes technologijų įmonės jau susiduria su kritika dėl jų vaidmens nustatant turinio skatinimą. „Laisvas pasiekimas” sąvoka, teiginys, kad platformos turėtų skatinti visas kalbas vienodai, yra konflikto šaltinis. Iš tikrųjų neutralaus algoritmo pasiekimas ar subjektyvių vertės vertinimų apsvarstymas atrodo neįmanomas. Net chronologinės srautas, kurios pirmenybę teikia naujausiam turiniui, negali patenkinti kiekvieno vartotojo poreikio.
Ankstesnės platformų reakcijos į panašias problemas nebuvo labai pažadėjančios. Pavyzdžiui, kai Elon Musk peržiūrėjo X patvirtinimo sistemą, tai sukėlė progų išnaudojimą ir sumažino vartotojo patirtį. Panašiai „TikTok“ pabrėžimas dėl virusinio įsitraukimo daro lengviau mažiau patikimoms paskyroms prieitraukti dėmesį. Šie atvejai pabrėžia reikalavimą imtis konkrečių veiksmų šioms problemoms spręsti.
Yra trys pagrindinės galimybės spręsti šias problemas. Pirma, platformos gali sumažinti savo pernelyg didelį dėmesį vartotojų įsitraukimui, kuris dažnai veda prie nepageidaujamo turinio ir mažos kokybės turinio. Tai gali būti pasiektas įtraukiant tiesioginius vartotojų vertinimus ir iškeldant išorinius patvirtintus kūrėjus. Stipresnės priemonės prieš nepageidaujamą turinį, pvz., įvedant dažnio limitus naujiems vartotojams, taip pat gali būti veiksmingos.
Antra, visuomenės sveikatos priemonės gali būti naudojamos įvertinti skaitmeninių platformų poveikį pažeidžiamoms grupėms, tokios kaip paaugliai. Skaidrumas dėl produktų dizaino eksperimentų, kuriuos atlieka platformos, leistų geriau suprasti kompromisus tarp augimo ir kitų tikslų. Vertinant tam tikrų funkcijų ar algoritmų sukeliamus galimus žalos lygmenis, būtų galima consider point mentalinio sveikatos vertinimas. Teisiniai pasiūlymai, toki kaip Platformų Sąskaitingumo ir Skaidrumo Įstatymas, gali toliau suteikti galimybę tyrėjams pasiekti platformos duomenis ir bendradarbiauti su reguliuojančiomis institucijomis šioms problemoms spręsti.
Galų gale, turime pirmenybę suteikti vartotojams informaciją apie su generatyvine AI ir sintetine žiniasklaida susijusius pavojus. Skatinant žiniasklaidos raštingumo ir kritinio mąstymo gebėjimus, mes suteikiam žmonėms galimybę efektyviau naršyti skaitmeniniame pasaulyje. Skatinant atsakingo turinio kūrimo ir vartojimo kultūrą, mes galime sumažinti besivystančios žiniasklaidos peizažo neigiamus padarinius.
Generatyvinė AI suteikia didžiules galimybes, bet ir svarbių iššūkių. Socialinių žiniasklaidos platformų, reguliuotojų ir visuomenės visumos pareiga užtikrinti, kad šios technologijos tarnauja kolektyvinio intereso labui ir apsaugo vartotojus nuo manipuliavimo ir žalos. Pasitelkus skaidrumą, teikiant pirmenybę vartotojų vertinimams ir skatinant skaitmeninę gerovę, mes galime sukurti daug įtraukiančią ir atsakingą skaitmeninę ekosistemą.
DUK
The source of the article is from the blog hashtagsroom.com