Tekoäly (AI) on mullistanut eri teollisuudenalat, ja nyt näyttää siltä, että AI:n luomat kuvat tekevät laajaa tuloaan sosiaalisen median alustoille. Stanfordin tutkijoiden äskettäin tekemä tutkimus on nostanut esiin huolestuttavan trendin synteettisten kuvien tulvasta sosiaalisilla alustoilla ilman selkeitä merkintöjä, mikä vaikeuttaa käyttäjiä erottamaan todelliset kuvat AI:n luomista sisällöistä.
Vaikka yritykset kuten Meta ovat asettaneet politiikoita, jotka vaativat käyttäjiä merkitsemään AI:n luomat sisällöt, valtaosa näistä synteettisistä kuvista ei osoita alkuperäänsä, jättäen käyttäjät alttiiksi harhaanjohtavalle tiedolle ja suoranaiselle disinformaatiolle. Synteesi-AI-teknologian leviämisen myötä on herännyt huolenaiheita tarkastamattomien AI-kuvien vaikutuksista sosiaalisessa mediassa.
Systemaattisen merkinnöinnin puute on vaikuttanut merkittävästi erityisesti vanhempiin käyttäjiin, jotka eivät ehkä ole yhtä perehtyneitä AI-teknologiaan. Näiden postausten kommentit osoittavat, että jotkut käyttäjät lankeavat väärennetylle sisällölle, korostaen tarvetta selvemmälle tunnistamiselle AI:n luomille kuville.
Yksi huolestuttava havainto Stanfordin tutkimuksesta on se, että nämä AI:n luomat kuvat ovat usein postattu Facebook-sivuilta, jotka on varastettu muilta yksilöiltä tai organisaatioilta. Esimerkiksi sivu nimeltään ”Davie High School War Eagle Bands” varastettiin Pohjois-Carolinan lukiobändiltä ja uudelleenkäytettiin AI-kuvilla Jeesuksesta ja lentoemännistä. Alkuperäiset omistajat ovat kamppailleet saadakseen hallinnan takaisin ja ilmoittaakseen Facebookille sivusta, joka ei ole reagoinut.
Näiden AI-roskelu-sivujen taustalla olevat motiivit eivät aina ole selvät, mutta on epäilyjä siitä, että ne saattavat houkutella sinisilmäisiä käyttäjiä mahdollisiin huijauksiin. AI:n luomien kuvien sensaatiomainen luonne houkuttelee osallistumista, tehdäkseen niistä pääkohteita roskapostin ja huijaustoimijoiden kannalta. Nämä sivut käyttävät usein epäaitoja seuraajia luodakseen legitimiteetin illuusion ja vuorovaikuttaakseen oikeiden kommentoijien kanssa. Jotkut näistä huijaustileistä saattavat yrittää hankkia henkilökohtaista informaatiota tai myydä väärennettyjä tuotteita tietämättömille käyttäjille.
NBC Newsin tekemässä haussa löytyi useita vastauksia tileiltä, jotka pyysivät ystävystymään kommentoijien kanssa käyttämällä samanlaista skriptiä. Nämä tilit usein puuttuvat henkilökohtaisista tiedoista ja osoittavat epäilyttävää käytöstä. Ne jättävät usein kommentteja kehuen AI:n luomia kuvia ja pyytäen ystävystymään. Käyttäjät ovat alkaneet varoa näitä sivuja ja jättäneet omia kommenttejaan varoittaakseen muita mahdollisista huijauksista.
AI:n luomien kuvien yleisyys sosiaalisessa mediassa on huolenaihe. Se korostaa selkeän merkinnän tarpeen ja parannetun havaitsemismenetelmän tarpeen taistelussa disinformaation leviämistä vastaan. Käyttäjien on pysyttävä valppaina ja käytettävä varovaisuutta osallistuessaan sisältöön, joka saattaa näyttää epäilyttävältä tai liian hyvältä ollakseen totta.
UKK
The source of the article is from the blog rugbynews.at