Nedavne istrage istaknule su rastuću zabrinutost u akademskom svijetu. Procjenjuje se da do pet posto stručnih članaka može uključivati dijelove teksta generirane umjetnom inteligencijom, uključujući i širenje obmanjujućih slika. “Lovci” na krivotvorine u svijetu znanstvenog izdavaštva bore se da sustignu najnovije tehnološke napretke.
Jedan takav incident uključivao je znanstveni časopis koji je nenamjerno objavio anatomski netočnu ilustraciju štakora, koja je navodno bila pregledana i odobrena tijekom recenzije od strane vršnjaka. Slika, koju je zapravo dizajnirao alat umjetne inteligencije poznat kao Midjourney, sadržavala je teške pogreške u označavanju anatomije štakora. Unatoč tim jasnim netočnostima, ova slika bila je uključena u studiju objavljenu u časopisu “Frontiers in Cell and Development Biology.” Znanstvena zajednica oštro je kritizirala objavu, što je dovelo do njezinog povlačenja od strane izdavača.
Elisabeth Bik, mikrobiologinja poznata po otkrivanju prijevara u znanstvenim slikama, izražava nevjericu zbog toga kako su takve očite prijevare prošle kroz provjere kvalitete. Bik, koji je prešao s Stanford sveučilišta na samostalni rad podržan donacijama, strahuje da bi uvjerljivije slike generirane umjetnom inteligencijom već mogle prošle u znanstvenu literaturu bez primjećivanja.
Bik nije sama u svojim borbama protiv zlouporabe umjetne inteligencije u znanstvenim radovima. Guillaume Cabanac, računalni znanstvenik s Sveučilišta u Toulouseu, traži lažiranja unutar tekstova članaka. Nedavno je istaknuo jedan članak koji je započeo rečenicom sličnom izlazima AI-chatbotova, što nisu isključili autori, a nisu ga primijetili ni recenzenti.
I dok praksa koja je uhvatila Cabanaca izgleda ograničena na najjasnije slučajeve, kako on tako i Bik upozoravaju na izazove koje predstavlja AI u otkrivanju akademske nepoštenosti. I dok neki tvrde da AI može koristiti istraživačima čiji je materinji jezik ne engleski poboljšanjem njihovih tekstova, Cabanac inzistira na transparentnosti u vezi s korištenjem alata za umjetnu inteligenciju u znanstvenom pisanju. Uključivanje krivotvorenog sadržaja od strane AI bez jasnog priznanja predstavlja neprihvatljivo akademsko ponašanje.
Važna pitanja i odgovori:
1. Koji su glavni izazovi u otkrivanju AI-generiranog sadržaja u znanstvenim radovima?
Glavni izazovi uključuju razlikovanje između AI-generiranog i ljudskog teksta, posebno kako AI postaje sofisticiraniji. Osim toga, može postojati nedostatak jasnih pokazatelja ili vodeni žigovi za identifikaciju AI-generiranih slika. Akademski recenzenti i urednici također mogu biti nepripremljeni za prepoznavanje ovih novih oblika prevare.
2. Koje kontroverze su povezane s korištenjem AI-a u akademskom izdavaštvu?
Primarna kontroverza oko etike korištenja AI-a za stvaranje sadržaja bez objave, potencijalno dovodi do netočnih ili manipuliranih informacija u znanstvenom diskursu. Postoji rasprava i oko toga treba li se AI pomoć smatrati alatom ili oblikom varanja.
3. Zašto je uporaba AI-generiranog sadržaja u znanstvenim radovima zabrinjavajuća?
Budući da znanstveni radovi doprinose kumulativnom znanju, netočnosti ili lažne informacije mogu imati značajne posljedice, zavaravajući istraživanja, donošenje političkih odluka ili medicinske prakse.
Prednosti i nedostaci:
Prednosti:
– AI može pomoći istraživačima, posebice onima s jezičnim preprekama, u stvaranju jasnijih i sveobuhvatnijih tekstova.
– Može ubrzati proces pisanja, omogućavajući brže širenje istraživačkih nalaza.
Nedostaci:
– AI-generirani sadržaj može ugroziti integritet i pouzdanost znanstvenog zapisa.
– Može širiti neprepoznate dezinformacije ili netočnosti.
– Potencijalna ovisnost o AI-u može narušiti razvoj vještina pisanja među istraživačima.
Za dodatne informacije o temi AI-a i akademske čestitosti, legitimni izvori za daljnje čitanje mogu se pronaći na glavnoj domeni akademskih časopisa i institucija specijaliziranih za etiku AI-ja. Na primjer:
Posjetite ove poveznice kako biste istražili časopise, perspektive i komentare o ovom pitanju. Svaka web stranica predstavlja ugledno mjesto za znanstveno izdavaštvo i komentare o novim tehnologijama i njihovim implikacijama.
The source of the article is from the blog tvbzorg.com