AI-által generált tudományos cikk visszavonásra kerül
Egy nemrégiben megjelent tudományos cikk, amely azt állította, hogy bemutatja a spermium őssejtek jelzőrendszerét, hatalmas kinevetettségnek volt kitéve az abszurd ábrázolások és értelmetlen szavak miatt. A cikk egy patkányt ábrázolt túlzó anatómiai jellemzőkkel és négy túlméretezett herezacskóval, ami széles körű gúnyt váltott ki. Az AI-által generált grafikák szintén tartalmaztak egy képet a „spermatogóniasejtekről”, amit egy kanállal felkapnak. Ezek a abszurd látványelemek a Frontiers in Cell and Development Biology című folyóiratban jelentek meg, de azóta visszavonták, a folyóirattól lévő bocsánatkéréssel együtt.
Az eset felveti a tudósokban a kutatóknek az AI eszközök használata során való lehetőségeik hazudozására való képességével kapcsolatos aggodalmakat.Adrian Liston, a Cambridge Egyetem tanára rámutatott a generatív AI problémájára azzal, hogy bár emberi jellegű tartalmat generál, de pontosság hiányzik belőle. Összevetette azt egy színész szereplésével, amikor orvost alakít egy tévéműsorban, és rámutatott, hogy noha úgy tűnhet, hogy orvos, tőlük való orvosi tanácsot kérni nem lenne okos dolog.
A szakértők aggodalmukat fejezték ki a generatív AI folyamatosan fejlõdõ képességeivel kapcsolatban. A technológia fejlõdésével a hamis tudományos cikkek felismerése egyre nehezebbé vált. Az említett grafikákat „abszolút szégyenteljesnek” és „rombolónak” nevezték, ami vita elé állította a tudományos folyóiratok integritását.
Dr. Elisabeth Bik, egy mikrobiológus, aki ismert a tudományos cikkek manipulációjának azonosításában végzett munkájáról, hangsúlyozta a folyóiratok, szerkesztők és szakértői vélemények óvatosságának szükségességét, amikor elfogadják és publikálják az AI által generált anyagokat. Rámutatott arra, hogy míg ezek a konkrét ábrázolások nyilvánvalóan helytelenek voltak, már lehetnek elhivatottabb AI-által generált tartalmak is, amelyek beszivároghattak a tudományos irodalomba.
Az AI fejlesztése folyamán egyre inkább felismerik, hogy szükség van olyan szoftverekre, amelyek képesek észlelni az AI által generált tartalmat. Azonban jelenleg az ilyen észlelések korlátozottak, hacsak a tartalom nem tartalmaz nyilvánvaló hibákat. Vállalatok próbálják kifejleszteni a vízjel-technológiát, hogy megoldják ezt a problémát.
Bár a tudományos közösség elismeri az AI potenciális előnyeit a kutatásban, ez az eset figyelmeztetés arra, hogy mennyire fontos alaposan megvizsgálni és értékelni a tudományos publikációk megbízhatóságát és pontosságát.
Gyakran Ismételt Kérdések (GYIK)
K: Mi volt az a nemrég megjelent tudományos cikk, amely kinevetettségnek volt kitéve?
V: A tudományos cikk azt állította, hogy bemutatja a spermium őssejtek jelzőrendszerét, de abszurd és értelmetlen látványelemeket is tartalmazott, ami kiterjedt gúnyt váltott ki.
K: Milyen volt néhány abszurd ábrázolás a cikkben?
V: A cikk egy patkányt ábrázolt túlzott anatómiai jellemzőkkel és négy túlméretezett herezacskóval. Továbbá tartalmazott egy kivágott képet az „spermatogóniasejtekről”, amiket egy kanállal fel lehetne venni.
K: Hol jelent meg ez a cikk, és mi történt vele?
V: A cikk a Frontiers in Cell and Development Biology című folyóiratban jelent meg. Azonban azóta a folyóirat visszavonta a cikket és bocsánatot kért.
K: Milyen aggodalmak merültek fel a tudósokban ezzel kapcsolatosan?
V: A tudósok aggodalmukat fejezték ki azzal kapcsolatban, hogy a kutatók képesek lehetnek meghamisítani munkájukat az AI eszközök használatával. Attól tartanak, hogy a generatív AI olyan tartalmakat hoz létre, amelyek emberi jellegűek, de pontatlanság hiányzik belőlük.
K: Milyen analógiát használtak a generatív AI problémájának magyarázatához?
V: Adrian Liston, a Cambridge Egyetem tanára a generatív AI-t egy színészhez hasonlította, aki egy tévéműsorban orvost alakít. Bár úgy tűnhetnek, hogy orvosok, tőlük orvosi tanácsot kérni nem lenne bölcsebb dolog.
K: Miért nehéz felismerni a generatív AI által készített hamis tudományos cikkeket?
V: A technológia fejlődésével egyre nehezebb felismerni a generatív AI által készített hamis tudományos cikkeket. Az AI által generált grafikák és tartalmak bonyolultnak és valóságosnak tűnhetnek, ezért nehezebb felismerni a hamis anyagot.
K: Milyen dolgot hangsúlyoz Dr. Elisabeth Bik az AI által generált anyagokkal kapcsolatban a tudományos publikációkban?
V: Dr. Bik kiemeli az óvatosságot a folyóiratoknak, szerkesztőknek és a szakértőknek, amikor az AI által generált anyagokat elfogadnak és publikálnak. Rámutat, hogy bár ezek a konkrét látványelemek nyilvánvalóan helytelenek voltak, már lehetnek elhivatottabb AI-által generált tartalmak is, amelyek beszivároghattak a tudományos irodalomba.
K: Milyen erőfeszítések történnek annak érdekében, hogy kezeljék az AI által generált tartalmak észlelésének problémáját?
V: A vállalatok dolgoznak azon, hogy kifejlesszenek vízjel technológiát az AI által generált tartalmak észlelésére. Azonban jelenleg az észlelések korlátozottak, hacsak a tartalom nyilvánvaló hibákat nem tartalmaz.
K: Mit emlékeztet ez az eset a tudományos közösséget?
V: Ez az eset emlékezteti a tudományos közösséget arra, hogy mennyire fontos az alapos vizsgálat és értékelés a tudományos publikációk megbízhatóságának és pontosságának biztosítása érdekében, annak ellenére, hogy az AI-nak potenciális előnyei vannak a kutatásban.
The source of the article is from the blog myshopsguide.com