Forskere tilbagekalder undersøgelse med absurde AI-genererede billeder og afslører fejl i peer-review-processen
En nylig hændelse involverende en artikel offentliggjort i en peer-reviewed videnskabelig tidsskrift har kastet lys over fejlene inden for peer-review-processen og udfordringerne skabt af generativ AI. Undersøgelsen, forfattet af tre forskere i Kina, redigeret af en forsker i Indien og gennemgået af personer fra USA og Indien, indeholdt meningsløse AI-genererede billeder, herunder en yderst kontroversiel afbildning af en rottes reproduktive organ.
Brugen af generative AI-værktøjer som Midjourney kan være både innovativ og gavnlig inden for videnskabelig forskning. Ikke desto mindre har denne hændelse understreget vigtigheden af at sikre, at de genererede billeder er præcise og opfylder de nødvendige standarder for videnskabelig stringens. Inddragelsen af et billede med en dissekeret rottepenis og forvirrede etiketter rejste ikke kun bekymringer om papirets troværdighed, men udløste også en social medie-opstand på grund af dets absurditet.
Efter at have modtaget feedback fra en gennemgående, der udtrykte bekymringer om figurerne, undlod forfatterne at adressere disse problemer, hvilket førte til offentliggørelsen af en artikel, der ikke levede op til tidsskriftets standarder. Det var først, efter billederne gik viralt på sociale medier, at tidsskriftet trak undersøgelsen tilbage og erkendte sin manglende evne til at opretholde redaktionel og videnskabelig stringens.
Denne hændelse fungerer som en påmindelse om behovet for forbedrede processer inden for peer-review-systemet. Den understreger ansvaret hos gennemgående, redaktører og forfattere for grundigt at undersøge og adressere bekymringer, der opstår under gennemgangsprocessen. Derudover rejser den spørgsmål om det niveau af kendskab og forståelse blandt videnskabelige tidsskrifter og deres personale vedrørende accept og offentliggørelse af AI-genereret indhold.
Selvom generativ AI viser stor potentiale inden for videnskabelig forskning, understreger episoder som denne vigtigheden af gennemsigtighed, nøjagtighed og overholdelse af etablerede retningslinjer. Det videnskabelige samfund skal navigere omhyggeligt forbi de potentielle faldgruber ved denne teknologi og finde måder at sikre, at AI-genereret indhold forbedrer snarere end kompromitterer integriteten af akademisk forskning.
Afslutningsvis fremhæver denne hændelse de udfordringer, som det videnskabelige samfund står overfor med at tilpasse sig de hurtige fremskridt inden for AI-teknologi. Den fungerer som en påmindelse til forskere, gennemgående og tidsskrifter om at forblive opmærksomme på deres forpligtelse til videnskabelig stringens og fremme en kultur præget af åbenhed og samarbejde for at adressere potentielle svagheder forbundet med implementeringen af generativ AI inden for akademisk verden.
Ofte stillede spørgsmål
The source of the article is from the blog xn--campiahoy-p6a.es