En nylig händelse som involverade publiceringen av en vetenskaplig artikel har väckt oro för användningen av artificiell intelligens (AI) för att generera bilder i tekniska tidskrifter. Redaktörerna för Frontiers in Cell and Developmental Biology har återkallat en forskningsartikel efter att ha upptäckt att de stödjande bilderna hade skapats felaktigt med hjälp av en AI-bildgenerator.
Artikeln, som fokuserade på stamceller hos små däggdjur, inkluderade bilder som visade råttanatomi. Det var emellertid uppenbart att dessa bilder hade genererats av ett AI-system, eftersom de visade en råtta med disproportionerade genitalier. En bild visade en råtta med en oproportionerlig penis och testiklar, medan en annan visade en råttcell som inte korrekt representerade strukturen hos en verklig råttcell.
Denna händelse belyser de pågående diskussionerna inom den vetenskapliga gemenskapen avseende användningen av AI för att generera text och bilder för tekniska papper. Medan vissa tidskrifter, inklusive Frontiers, har policys som tillåter användning av AI-genererade material så länge deras användning avslöjas, visar detta fall behovet av noggrann faktagranskning för att säkerställa noggrannheten och trovärdigheten hos sådant innehåll.
Författarna till artikeln, ett team från Hong Hui Hospital och Jiaotong University i Kina, erkände öppet sin användning av AI för att skapa bilderna. Det är emellertid oklart hur dessa problematiska bilder hamnade i en peer-review-tidskrift.
Återkallelsen av artikeln av redaktörerna på Frontiers indikerar ett erkännande av felet. Det väcker frågor om processerna som är involverade i peer review och de åtgärder som bör vidtas för att förhindra liknande incidenter i framtiden.
Framåt är det avgörande för utgivare och forskare att fastställa riktlinjer och protokoll för användningen av AI i vetenskapliga publikationer. Detta inkluderar att implementera robusta faktagranskningsförfaranden för att verifiera noggrannheten hos AI-genererat innehåll. Medan AI utan tvekan kan förbättra vetenskaplig forskning måste det användas ansvarsfullt för att upprätthålla integriteten och trovärdigheten hos vetenskapliga publikationer.
The source of the article is from the blog mgz.com.tw