Znanstvene publikacije nisu imune na utjecaj umjetne inteligencije (AI), kako je nedavno pokazao incident s lažnim slikama generiranim od strane Midjourney, jednim od najpopularnijih AI generatora slika.
U radu objavljenom u znanstvenom časopisu “Frontiers in Cell and Developmental Biology”, istraživači su istraživali vezu između matičnih stanica u sisavaca i signalnog puta povezanog s upalom i rakom stanica. Iako je pisani dio rada izgledao legitimno, upravo su netočne i groteskne prikaze štakorskih testisa, signalnih puteva i matičnih stanica izazvale čuđenje.
Na primjer, AI-generirani dijagram štakora prikazivao je štakora s gornjim dijelom označenim kao “senctoličke matične stanice” i ono što se činilo velikim štakorskim penisom označeno kao “Dissilced” – definitivno ne tipičan znanstveni prikaz.
Zapanjujuće je da su pogrešne slike dospjele u publikaciju unatoč navodnim provjerama kvalitete koje je obavio tim za integritet istraživanja i urednik. To postavlja pitanja o učinkovitosti procesa recenzije od strane stručnjaka u otkrivanju obmanjujućeg ili pogrešnog sadržaja.
Iako su istraživači u radu priznali da su slike AI-generirane, zabrinjavajuće je da takve slike nisu bile ispravljene prije objavljivanja. Ovaj incident ističe potrebu za jasnijim smjernicama i protokolima kako bi se riješile pogreške u slikama i krivo označenim ilustracijama u znanstvenim publikacijama.
Posebno zabrinjavajuće je to što AI-generirani tekst u ilustracijama nije bio čak ni na pravilnom engleskom jeziku, što je ukazivalo svakoj osobi s oštrim okom da slike nisu autentične.
Posljedice AI-generirane slike u znanstvenim publikacijama idu dalje od samo netočnosti. U posebnom istraživanju koje su proveli Northwestern University i University of Chicago, pokazalo se da su stručnjaci bili prevareni AI-produciranim apstraktima znanstvenih radova skoro trećinu vremena. To izaziva zabrinutost u vezi s učincima na znanstvenu integritet i potrebom za strožom ocjenom AI-generiranog sadržaja.
Dok AI nastavlja dobivati popularnost i dostupnost, postoji rizik od infiltriranja znanstveno netočnih slika u znanstvene publikacije i novinske članke. Iako su AI-generirane slike vizualno privlačne, često nedostaju nijansirana točnost potrebna u znanstvenim ilustracijama.
Ovaj incident služi kao podsjetnik da moramo biti oprezni pri prihvaćanju AI-generiranog sadržaja kao legitimnog znanstvenog rada. Potrebne su strože politike i najbolje prakse kako bi se spriječilo da obmanjujući ili besmisleni sadržaj umanjiti vjerodostojnost znanstvenih istraživanja. Poboljšavajući razumijevanje ograničenja AI-ja i provođenjem rigoroznih evaluacijskih procesa, možemo osigurati da znanstvene publikacije zadrže svoju integritet i doprinesu napretku znanja.
Često postavljana pitanja:
1. O čemu se radi u vezi AI-ja i znanstvenih publikacija?
Incident uključuje objavljivanje rada u znanstvenom časopisu “Frontiers in Cell and Developmental Biology” koji je uključivao netočne i groteskne slike AI-generirane štakorske testise, signalne puteve i matične stanice.
2. Što je bilo zabrinjavajuće u vezi AI-generiranih slika?
AI-generirane slike imale su krivo označene dijelove, poput velikog štakorskog penisa označenog kao “Dissilced”, a tekst na ilustracijama nije bio na pravilnom engleskom jeziku, što ukazuje da slike nisu autentične.
3. Kako su pogrešne slike dospjele u publikaciju?
Unatoč provjerama kvalitete koje je obavio tim za integritet istraživanja i urednik, netočne slike nisu bile ispravljene prije objavljivanja čime se postavlja pitanje učinkovitosti procesa recenzije od strane stručnjaka u otkrivanju obmanjujućeg ili pogrešnog sadržaja.
4. Na što se protežu posljedice AI-generiranih slika u znanstvenim publikacijama?
Posljedice idu dalje od samo netočnosti. Posebno istraživanje je pokazalo da su stručnjaci bili prevareni AI-produciranim apstraktima znanstvenih radova skoro trećinu vremena, što ukazuje na zabrinutost i potrebu za strožom ocjenom AI-generiranog sadržaja.
5. Koji je rizik povezan s rastućom popularnošću i dostupnošću AI tehnologije?
Kako AI tehnologija postaje sve dostupnija, postoji rizik od infiltriranja znanstveno netočnih slika u znanstvene publikacije i novinske članke. Iako su vizualno privlačne, AI-generirane slike često nedostaju nijansirana točnost potrebna u znanstvenim ilustracijama.
6. Kako se može očuvati vjerodostojnost znanstvenih istraživanja?
Da bi se očuvala vjerodostojnost znanstvenih istraživanja, potrebne su strože politike i najbolje prakse kako bi se spriječilo obmanjujući ili besmisleni sadržaj koji bi umanjio vjerodostojnost. Potrebno je bolje razumijevanje ograničenja AI-ja i provedba rigoroznih evaluacijskih procesa.
The source of the article is from the blog rugbynews.at